Botnet usava ChatGPT para simular contas reais e aplicar golpes no Twitter

Sempre que se fala dos riscos da inteligência artificial, muita gente pensa em uma revolução das máquinas ou no desemprego em massa. Alguns perigos, porém, são bem mais simples que isso. Cientistas encontraram uma botnet no Twitter (agora chamado X) que usa ChatGPT para espalhar desinformação e levar a sites suspeitos.

O estudo de caso foi realizado dois pesquisadores do Observatório de Redes Sociais da Universidade de Indiana, nos EUA: Kai-Cheng Yang e Filippo Menczer.

Os cientistas uma rede com 1.140 robôs no Twitter/X. As contas automatizadas seguiam umas às outras e usavam o ChatGPT para conversar entre si.

Além disso, elas interagiam com páginas populares, como perfis de empresas e influenciadores. Para criar uma aparência de legitimidade, os robôs roubavam fotos do Instagram.

As conversas da botnet eram sobre investimentos em criptomoedas e NFTs, e incluíam links para sites falsos, como fox8.news, cryptnomics.org e globaleconomics.news, que imitavam notícias autênticas. Foi daí que os pesquisadores passaram a chamar a rede de “fox8”.

Os três sites tinham indícios de fraude, como descrevem os pesquisadores: mesmo tema de WordPress, mesmo IP, informações de domínio escondidas e nenhuma infomação sobre equipe editorial. Os artigos eram copiados de plataformas como Vox e Forbes.

Fonte: Tecnoblog