Bando usa IA da OpenAI para atacar 80 mil sites com falso serviço de SEO

Criminosos digitais têm utilizado ferramentas da OpenAI para atrair administradores de sites a uma rede fraudulenta de SEO (otimização para motores de busca). A estratégia consiste em criar mensagens personalizadas com inteligência artificial generativa, capazes de contornar filtros e captchas.

A operação foi identificada pela empresa de cibersegurança SentinelOne. Segundo os pesquisadores, uma ferramenta conhecida como AkiraBot foi empregada para tentar distribuir spam a cerca de 420 mil sites — em 80 mil deles, a tentativa teve êxito.

Os principais alvos eram negócios de pequeno e médio porte. As mensagens eram enviadas por meio de formulários de contato ou sistemas de atendimento via chat. As mensagens automatizadas ofereciam pacotes de SEO por US$ 30 mensais — aparentemente, os serviços eram falsos ou praticamente inúteis.

“Quando um novo meio de comunicação digital ganha popularidade, agentes mal-intencionados inevitavelmente o exploram para espalhar spam, buscando tirar proveito de usuários desavisados”, alerta a SentinelOne. “O email continua sendo o canal mais comum para esse tipo de prática, mas a popularização de novas plataformas ampliou o campo de atuação para esses ataques.”

Os responsáveis pelo golpe recorreram à API da OpenAI para gerar mensagens personalizadas com auxílio do modelo GPT-4o Mini. O sistema foi instruído a se comportar como um “assistente prestativo que cria mensagens de marketing”.

O uso de IA generativa permitiu que os textos não fossem idênticos entre si, como normalmente acontece em campanhas de spam. Apesar de parecidos, eles apresentavam variações suficientes para burlar os filtros automáticos.

Fonte: Tecnoblog