Malware cita armas nucleares, engana IA e invade servidores

Engenheiros de software, cientistas de dados e desenvolvedores que trabalham com inteligência artificial estão na mira de uma nova ameaça cibernética chamada Hades. O golpe foca em plataformas onde os profissionais baixam pacotes de códigos para usar em projetos e usa uma técnica conhecida como injeção de prompt, que insere um texto no meio do código exigindo instruções para criar armas biológicas e nucleares.

O objetivo dessa tática é confundir as IAs que escaneiam o arquivo em busca de vírus. Quando um bot tenta ler o pedido sobre armas, ela trava por questões de segurança, e a verdadeira ameaça passa despercebida para o computador da vítima ou os servidores de uma empresa.

A resposta está nos filtros éticos integrados aos modelos de linguagem. Quando os hackers escondem o malware dentro do pacote que o desenvolvedor vai baixar, eles inserem um comentário de texto direcionado ao sistema de segurança exigindo um passo a passo para fabricar uma arma de destruição em massa.

Ao se deparar com o pedido proibido, o mecanismo da IA entra em ação na hora, travando e abortando a leitura do documento. Como a verificação para na metade, a parte final do código, que é onde o vírus está escondido, dribla a análise.

Se um desenvolvedor perguntar à IA se o pacote recém-baixado está livre de vírus, ele receberá um falso “sinal verde”, simplesmente porque o arquivo não foi examinado até o fim.

Enganar o antivírus de IA é apenas o primeiro passo. Segundo um relatório da plataforma de segurança Socket.dev, o alvo dos criminosos não é apenas o computador do funcionário que baixou o pacote infectado. Assim que se instala, o malware Hades vasculha a máquina do desenvolvedor atrás de credenciais de alto escalão, caçando chaves de acesso e senhas temporárias de servidores na nuvem, como os da AWS.

Fonte: Tecnoblog