Hackers usaram IA da Anthropic em ciberataque global

Um grupo de hackers apoiado pelo governo da China teria utilizado o modelo Claude, da Anthropic, para executar um ataque cibernético contra 30 alvos corporativos e políticos globais. De acordo com a própria Anthropic, esse é o primeiro caso documentado de ataque feito sem grande intervenção humana.

Para realizar a operação, os hackers conseguiram contornar as travas de segurança do Claude Code. Eles “enganaram” a IA fingindo ser uma empresa de cibersegurança que usava o modelo para treinamento defensivo.

Com isso, os cibercriminosos quebraram o ataque em tarefas menores que não revelavam a intenção maliciosa da ação. A IA foi responsável por 80% a 90% da operação, desde a criação de códigos de exploit até a extração de dados privados.

Após os hackers selecionarem os alvos — que incluíam empresas de tecnologia, instituições financeiras e agências de governo —, instruíram o Claude Code a desenvolver a estrutura de ataque.

Segundo a Anthropic, a IA não só escreveu o código do programa para explorar a falha de segurança, como obteve sucesso em roubar nomes de usuário e senhas. Com essas credenciais, o modelo conseguiu extrair “uma grande quantidade de dados privados” através do backdoor que ele mesmo criou.

A empresa relata que o Claude foi obediente a ponto de documentar os ataques e armazenar os dados roubados em arquivos separados, e admite que a operação da IA não foi impecável, pois algumas informações eram públicas. Entretanto, a companhia alerta que ataques desse tipo podem se tornar mais sofisticados com o tempo.

Fonte: Tecnoblog