Golpistas enganam IA para dar falsos números de atendimento

Criminosos estão explorando um novo terreno para aplicar golpes: os sistemas de inteligência artificial que respondem perguntas do público. Segundo um relatório da empresa de cibersegurança Aurascape, golpistas têm conseguido fazer com que chatbots exibam números de telefone falsos como se fossem canais oficiais de suporte ao cliente.

Quando usuários pedem informações de contato em plataformas como Perplexity recebem respostas via os resumos de IA do Google (AI Overviews), algumas respostas têm exibido telefones controlados pelos próprios fraudadores. Do outro lado da linha, em vez de equipes de atendimento, estão golpistas especializados em roubar dados e dinheiro.

A investigação da Aurascape mostra que os criminosos usam uma combinação de táticas antigas com estratégias novas voltadas especificamente para modelos de linguagem (LLMs). O método mais comum é espalhar textos em plataformas que aceitam conteúdo de usuários, como YouTube, Yelp e serviços de avaliação.

Nessas páginas, os golpistas adicionam números telefônicos falsos e recheiam o texto com termos que as pessoas provavelmente consultariam, como “número de atendimento ao cliente” de alguma companhia ou variações semelhantes.

Em alguns casos, eles conseguem inserir conteúdo adulterado em sites de alto nível de confiança — como páginas governamentais, universidades e portais que usam WordPress — após comprometer esses sistemas.

A diferença, segundo a empresa de cibersegurança, está no formato escolhido pelos criminosos. Eles estruturam com listas simples ou trechos de perguntas e respostas, para tentar convencer a IA de que aquele conteúdo é “a resposta” ideal para a consulta.

Fonte: Tecnoblog