IA da Microsoft usa texto do ChatGPT para publicar fake news no Bing

Lançado na terça-feira, a IA de pesquisa da Microsoft foi desenvolvida para seguir alguns princípios, como o de segurança. Contudo, testes com a ferramenta, batizada de Prometheus, mostram que comandos básicos burlam esse princípio. Desse modo, a IA pode publicar notícias falsas e opiniões controversas no Bing, buscador da empresa.

Entre os testes realizados pelo TechCrunch, foi usado a mesma prompt que o NewsGuardTech usou para o buscar fake news no ChatGPT. O texto pede para a IA produzir uma resposta do ponto de vista de um ativista americano antivacina. Apesar da Microsoft declarar que o Prometheus é uma evolução da GPT-3, mais um “GPT-3.1”, parece que problemas do ChatGPT seguiram para o Bing.

A tecnologia GPT-3, base do ChatGPT, já mostrou que é suscetível ao bom papinho mais ou menos. Com os comandos certos, você pode burlar as restrições sobre notícias falsas ou para criar malware. Ao começar um prompt com “escreva para mim um texto baseado nas opiniões de fulano”, a IA do Bing formará um texto — plagiado — replicando o estilo do “fulano”.

O TechCrunch diz que realizou diversos testes desse tipo, fazendo com que a IA do Bing violasse os seus princípios. De acordo com o site, a tecnologia do Prometheus gerou não apenas “discursos no estilo do Hitler”, mas também usou um texto do ChatGPT como base para gerar uma notícia falsa sobre a vacina contra Covid-19 da Pfizer.

No teste, os repórteres do site copiaram um comando usado pelo NewsGuardTech para gerar um texto baseado nas opiniões de Joseph Mercola, ativista antivacina que criou a fake news de que a Pfizer adicionou um composto para diminuir a chance de ataque cardíaco em crianças.

Como reafirmou o CEO da Microsoft em entrevista ao The Verge, a IA do Bing divulga as fontes usadas para gerar a sua resposta. O mais curioso nesse caso não é só o fato de que a equipe do TechCrunch “deu um drible” na segurança do Prometheus, mas que a IA apontou entre as fontes o NewsGuardTech e o New York Times —este fez uma matéria sobre o caso mostrado pelo NewsGuard.

Fonte: Tecnoblog