Estudo revela que 8 em cada 10 IAs ajudam a planejar ataques violentos

Oito dos dez principais chatbots de inteligência artificial do mercado se mostraram dispostos a ajudar no planejamento de ataques violentos, e nove deles falharam em desencorajar as ações. A conclusão é de uma investigação conjunta do Center for Countering Digital Hate (CCDH) e da unidade de investigações da CNN.

A pesquisa testou ferramentas populares como ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek e Perplexity, além de plataformas amplamente usadas por jovens, como Snapchat My AI, Character.AI e Replika. O Claude, da Anthropic, também foi incluído nos testes.

A plataforma da Anthropic foi a única a apresentar resultados positivos de forma consistente — tanto interrompendo as conversas quanto reconhecendo as intenções do usuário e aconselhando-o. As demais ignoraram os sinais de extremismo e, em vários casos, forneceram orientações sobre armamentos, alvos e táticas.

Durante os testes, o mecanismo de busca da Perplexity ofereceu assistência para o planejamento do crime em 100% das respostas. Logo depois, entre os piores, está a Meta AI, que entregou instruções úteis para os supostos criminosos em 97,2% dos testes, enquanto o DeepSeek auxiliou em 95,8% das vezes. A lista segue com:

A investigação detalha que o ChatGPT forneceu mapas detalhados de escolas de ensino médio a um usuário que demonstrava interesse em violência escolar. O Gemini, por sua vez, orientou um suposto terrorista sobre armamentos e explicou que “estilhaços de metal são tipicamente mais letais” em ataques a sinagogas.

As duas empresas já enfrentam processos por auxiliar jovens no planejamento de suicídios, embora esse comportamento não tenha sido objeto desta pesquisa.

Fonte: Tecnoblog