Erro faz Claude e Codex executarem código malicioso em redes corporativas

Agentes de inteligência artificial criados para auxiliar na programação, incluindo o Claude (da Anthropic), o Codex (da OpenAI) e o Hermes (da Nous Research), podem instalar códigos potencialmente perigosos dentro das redes de grandes companhias. O problema de segurança foi descoberto por uma startup israelense.

O incidente acontece porque as IAs leem instruções na internet e executam comandos que apontam para softwares abandonados. Esse comportamento permite que hackers registrem pacotes falsos e assumam o controle desses “atalhos”, abrindo as portas para invadir infraestruturas corporativas.

Detalhada em uma reportagem do site ArsTechnica, a falha tem origem em arquivos chamados llms.txt e llms-full.txt. Na prática, eles resumem o conteúdo de um site para que robôs e assistentes virtuais possam ler e entender tudo rapidamente. O perigo é que algumas páginas incluem instruções desatualizadas ou incorretas. Como os agentes de IA não filtram o que leem, esse texto é processado como uma ordem direta, executando códigos nocivos silenciosamente.

A descoberta foi feita por uma equipe de especialistas em cibersegurança que decidiu investigar como as IAs se comportam quando navegam pela internet e consomem dados técnicos. Os analistas mapearam mais de 6 mil domínios ativos relacionados a indústrias de defesa e gigantes da tecnologia.

A equipe revisou 8.265 arquivos criados para orientar as ferramentas de IA. Durante o processo, eles encontraram 120 documentos que ordenavam a instalação de pacotes ou ferramentas que simplesmente não existiam mais ou cujos domínios haviam sido abandonados.

O levantamento identificou 227 comandos vulneráveis e registrou dezenas de acessos. O rastreamento revelou que os downloads vinham justamente de assistentes virtuais de código operando com permissões elevadas.

Fonte: Tecnoblog