ArXiv ameaça banir cientistas que enviarem artigos com lixo gerado por IA

O ArXiv, um dos principais repositórios de artigos científicos do mundo, vai banir por um ano autores que submeterem trabalhos com sinais claros de texto gerado por IA sem revisão humana. Após o período, novas submissões só serão aceitas se o artigo já tiver passado por uma publicação ou revisão por pares considerada respeitável.

Na rede social X, o presidente da seção de ciência da computação do ArXiv, Thomas Dietterich, explicou que a medida mira artigos que reproduzem alucinações ou simplesmente esquecem parte da mensagem dos chatbots. A plataforma aplicará a punição quando houver evidências incontestáveis de que há texto gerado por LLMs publicado sem checagem.

Isso indica, por outro lado, que o ArXiv não está proibindo o uso de IA em qualquer etapa da pesquisa ou escrita. O alvo são trabalhos que chegam ao repositório com sinais óbvios de automação. Entre os exemplos, Dietterich cita referências bibliográficas inventadas e comentários do próprio chatbot deixados no corpo do artigo.

Ao 404 Media, o executivo afirmou que a regra vale já para a primeira infração de um autor. No entanto, a decisão passará por um processo interno, que exige que um moderador documente a irregularidade e a presidência da seção confirme o caso. Autores poderão recorrer.

O ArXiv funciona como um repositório de preprints, ou seja, artigos disponibilizados antes da revisão por pares. Com isso, muitos autores conseguem acelerar a circulação de pesquisas em diversas áreas, mas essa mesma facilidade também tornou o repositório mais vulnerável a textos automatizados.

Como lembrar o 404 Media, em novembro do ano passado, a plataforma já havia deixado de aceitar artigos de ciência da computação, justamente por causa do aumento de materiais produzidos rapidamente com ajuda de LLMs.

Fonte: Tecnoblog