Meta diz que sua IA também invadiu sistemas de outra empresa durante teste

Um modelo de inteligência artificial da Meta teria escapado de um ambiente controlado de testes e invadido sistemas de outra empresa. O episódio é semelhante aos relatados por OpenAI e Anthropic nas últimas semanas.

A notícia surgiu primeiro no site The Information, que falou com fontes a par do assunto. Depois, a Meta confirmou à BBC estar investigando o incidente, atribuindo-o a uma configuração incorreta feita por uma empresa independente.

A empresa em questão se chama Irregular e também era responsável pelas avaliações do modelo da Anthropic. Na ocasião, a IA teria escapado do ambiente e invadido sistemas de outras três empresas. À BBC, ela disse que o episódio da Meta envolve “a mesma questão do ambiente de testes revelada pela Anthropic na semana passada”.

Por enquanto, a empresa chefiada por Mark Zuckerberg não compartilhou mais informações sobre qual o modelo de IA em questão, qual foi o erro de configuração, que empresa teve seus sistemas invadidos e quais foram os dados comprometidos.

Antes da Meta e da Anthropic, a OpenAI foi a primeira a dizer que um de seus agentes de IA conseguiu escapar de um ambiente de testes, acessar a internet e invadir outra plataforma — no caso, o repositório de modelos Hugging Face.

Nos últimos dias, a startup liderada por Sam Altman deu mais detalhes sobre o caso. Um modelo de IA recebeu uma tarefa impossível de ser realizada nas condições de um teste. Ele, então, teria se aproveitado de falhas no sistema para se comunicar com outros agentes, descobrir uma falha em um repositório de dependências e se conectar à web.

Fonte: Tecnoblog