IA da OpenAI escapa de teste e ataca Hugging Face

A OpenAI admitiu nesta terça-feira (21/07) que seus próprios modelos de IA conseguiram escapar de um ambiente de testes, conectaram-se à internet e invadiram sozinhos os sistemas da plataforma Hugging Face. O ataque cibernético “sem precedentes”, segundo a empresa, ocorreu neste mês e foi motivado por um objetivo simples: encontrar a resposta para uma avaliação de cibersegurança.

O incidente foi detectado pela plataforma invadida. De acordo com a OpenAI, a invasão foi desencadeada por uma combinação de algoritmos operando em conjunto, incluindo o recém-lançado GPT-5.6 Sol e uma IA ainda mais avançada, em fase de pré-lançamento.

A “fuga” aconteceu depois que os modelos identificaram e exploraram uma vulnerabilidade de dia zero (uma falha crítica ainda sem correção) em um software usado dentro da OpenAI durante uma avaliação interna para medir as capacidades de segurança das ferramentas.

Para testar os limites em um cenário extremo, a desenvolvedora removeu intencionalmente as travas de segurança e filtros de proteção dos modelos em um ambiente que deveria ser 100% isolado, o que deixou as IAs hiperfocadas em resolver o desafio a qualquer custo.

Elas realizaram um escalonamento de privilégios e vasculharam a infraestrutura da empresa até encontrarem um nó da rede (uma máquina específica) com acesso à web. Já conectados à internet, os algoritmos fizeram uma dedução lógica: a Hugging Face, famosa por ser um dos maiores repositórios de códigos do mundo, provavelmente abrigava a resposta para a sua avaliação.

A partir desse ponto, o modelo disparou múltiplos vetores de ataque e explorou brechas, usando até credenciais roubadas na nuvem para executar códigos remotamente. O ataque cibernético só foi interrompido porque a Hugging Face também usa IA para proteger sua própria rede. O sistema de detecção de anomalias da plataforma notou o tráfego suspeito, isolou as ações e bloqueou a atividade antes que um estrago irreversível acontecesse.

Fonte: Tecnoblog