OpenAI, dona do ChatGPT, cria ferramenta que “dedura” textos de IA

A OpenAI, empresa que desenvolveu o ChatGPT, lançou uma ferramenta que é capaz de identificar se um texto foi produzido por inteligência artificial. A funcionalidade chega como uma resposta aos problemas trazidos pela popularidade crescente do ChatGPT. Há uma preocupação sobre o uso de IAs em produções escolares e acadêmicas.

Recentemente, o uso de IA para a geração de textos também causou problemas no site CNET, após uma notícia sobre investimento, escrita por uma inteligência artificial, errar sobre os lucros de um investimento. O site usava IAs sem destacar esse fato nos textos. Com uma ferramenta de identificação, será possível avaliar outros conteúdos publicados na internet.

Segundo a OpenAI, na parte de testes, a ferramenta foi capaz de identificar corretamente textos produzidos em 26% dos casos. Esses casos, chamados de verdadeiros-positivos, indicam que o texto é “provavelmente produzido por IA” — em nenhuma momento ela afirmará que o texto foi gerado por inteligência artificial.

Como destaca no seu site, a OpenAI diz que a ferramenta de identificação deve ser usada como um complemento a outros métodos de classificação de textos.

A funcionalidade lançada pela OpenAI, que a apresentou em seu site oficial, ainda tem que evoluir. A própria empresa afirma que ele não é confiável. Ela liberou o uso da ferramenta, mesmo que ainda em imperfeita, para receber feedbacks. O uso por terceiros auxiliará a OpenAI em seus planos de aprimorar a tecnologia de detecção de texto.

Em seu comunicado à imprensa, a OpenAI explica que a ferramenta de identificação de texto apresenta um desempenho ruim na análise de textos com menos de mil caracteres. Porém, erros também acontecem com textos maiores que isso.

Fonte: Tecnoblog