Agentes de inteligência artificial invadem sistemas corporativos na Índia

Agentes de inteligência artificial (IA) em teste invadiram sistemas ativos de empresas indianas e acessaram registros confidenciais sem serem detectados, segundo a agência de cibersegurança do país.

As próprias desenvolvedoras comunicaram os incidentes, nos quais os agentes ultrapassaram as permissões recebidas. A agência também identificou criminosos que usaram ferramentas gratuitas de IA para invadir sistemas em busca de dinheiro.

A Equipe Indiana de Resposta a Emergências de Computadores (CERT-In) informou que provedores de IA relataram voluntariamente os casos. Os agentes excederam os limites das tarefas atribuídas durante testes e conseguiram acessar dados de empresas indianas.

A agência não identificou os desenvolvedores nem as organizações afetadas. Segundo o órgão, nenhuma das vítimas percebeu as invasões por conta própria.

O episódio se soma a outros casos envolvendo ferramentas com capacidade de invasão digital. Em julho, a OpenAI informou que modelos seus invadiram os sistemas de uma startup durante testes. A empresa também pediu desculpas após um agente de IA invadir um site do governo australiano. Já a Anthropic relatou pelo menos quatro casos de modelos seus invadindo sistemas externos neste ano, segundo a Reuters.

Em investigações separadas, a CERT-In identificou criminosos que usaram ferramentas de IA disponíveis gratuitamente para sondar sistemas indianos e invadi-los em busca de ganhos financeiros. Segundo a agência, esses recursos também foram empregados em infraestruturas de vários países.