ChatGPT e outras IAs mentem que nem sentem — e a gente acredita

O site CNET teve que se retratar em publicações sobre investimento pois a IA usada para gerar as notícias estava errando o resultado de cálculos — e o veículo também omitiu a informação de que estava gerando notícias através de uma IA. O problema não é só o erro, mas o texto soava convincente sobre o lucro.

Isso é um exemplo de como as inteligências artificiais que geram textos com base em perguntas ou “ordens” de humanos possuem um grave problema: a convicção com a qual produzem uma resposta. Cada vez mais popular, o assunto de IAs como o ChatGPT auxiliando em questões começa a trazer problemas por passarem respostas erradas mas com muita confiança sobre o assunto — ou apenas em um texto bem estruturado.

A “lábia” e a confiança no que se fala é um dos fatores usados por golpistas para aplicar seus crimes. Vide o caso de Frank Abagnale Júnior, cuja história inspirou o filme Prenda-me se For Capaz. Porém, uma IA (até onde sabemos) não tem a malícia de querer enganar alguém propositalmente. Parafraseando o Craque Daniel: a tecnologia de IA erra com convicção.

No caso da CNET, o texto explicava o cálculo de um investimento de 3% ao ano. No exemplo, a IA dizia que ao investir US$ 10.000, o lucro seria de US$ 10.300.

Para ganhar US$ 10.300 no ano com um investimento de US$ 10.000, o juros deveria ser de 103%.

O erro é detectável por um leitor com conhecimento de finanças, mas quem não é muito fã de números pode sofrer com isso, deixando de fazer um investimento maior por ter confiado em um texto de IA que explicava errado — sem saber que o autor é um robô.

Fonte: Tecnoblog