IA da OpenAI invadiu servidor de outra empresa após fugir de teste

A inteligência artificial da OpenAI que escapou de um ambiente de testes conseguiu comprometer outros serviços na internet, indo além da invasão à startup Hugging Face. O sistema teria tentado trapacear durante uma avaliação interna de segurança, rompendo o confinamento e comprometendo a infraestrutura de um cliente da empresa de tecnologia Modal Labs.

O caso ganhou relevância ao longo da última semana, quando foi revelado que uma nova IA da OpenAI atacou outra plataforma sozinha. Agora, a própria OpenAI atualizou o comunicado oficial para incluir informações sobre esse outro ataque.

O agente em questão era alimentado pelo GPT-5.6 Sol, modelo mais recente da empresa, operando em conjunto com um protótipo mais avançado e que ainda não chegou ao mercado.

Especialistas em cibersegurança ouvidos pela Wired afirmam que o incidente tem menos a ver com a fuga e mais com falhas de segurança. Em resumo, a IA simplesmente caminhou por conexões que estavam abertas. Para chegar à infraestrutura da Hugging Face, o algoritmo varreu a rede em busca de senhas que já estavam expostas publicamente. Um dos vetores foi um cliente da provedora de nuvem Modal Labs.

De acordo com o diretor de tecnologia da Modal, Akshat Bubna, o agente explorou um código vulnerável hospedado por esse cliente. Na prática, o usuário publicou um “endpoint”, interface de comunicação entre sistemas, sem qualquer tipo de autenticação, o equivalente digital a deixar a porta da frente de casa aberta.

Usando esse servidor como trampolim, o agente utilizou senhas vazadas para se infiltrar em quatro contas hospedadas em serviços diferentes. O algoritmo distribuiu funções para cada uma delas para facilitar o ataque contra a Hugging Face. Uma foi configurada como canal de retransmissão de dados, outra foi destinada ao armazenamento das informações capturadas, e as duas restantes serviram como pontos de apoio.

Fonte: Tecnoblog