Kimi K3 também foge de ambiente de testes

A ideia de uma inteligência artificial que rompe barreiras e age por conta própria deixou de ser um alerta para se tornar realidade na indústria de tecnologia. Desta vez, quem escapou do confinamento foi o Kimi K3, modelo de código aberto da startup chinesa Moonshot AI.

Em julho de 2026, enquanto a empresa americana de cibersegurança Frontier testava as capacidades defensivas da ferramenta no Instituto de Segurança de IA do governo britânico (AISI), um agente encontrou uma rota de fuga. Ele entrou no GitHub e buscou a solução para uma tarefa que deveria resolver sozinho.

Lançado publicamente de forma gratuita semanas antes do incidente, o Kimi K3 já havia chamado a atenção do mercado. Avaliações independentes mostravam que o modelo chinês entregava um desempenho capaz de bater de frente com os principais sistemas da atualidade, como ChatGPT e Claude.

A fuga não envolveu ataque cibernético nem exploração de uma vulnerabilidade desconhecida (zero-day). O Kimi K3 simplesmente se aproveitou de uma configuração incorreta de sandbox. Ao analisar os parâmetros de rede, o modelo encontrou uma porta para a internet e decidiu usá-la para acessar o repositório do GitHub.

O CEO da Frontier Security, Yaron Singer, disse à Wired que a atitude da máquina revela um problema de design e a falta de mecanismos que o impeçam de trapacear. Durante os testes, a meta era concluir tarefas complexas no menor tempo possível, utilizando o mínimo de recursos. Sem barreiras éticas programadas, o Kimi K3 deduziu que a forma mais eficiente de cumprir a ordem era ignorar o raciocínio e buscar a resposta pronta online.

O pesquisador Paul Kassianik, também da Frontier, apontou que o Kimi é extremamente focado em atingir seu objetivo final por qualquer meio necessário. O grande diferencial deste incidente é que a versão avaliada no laboratório britânico é a mesma disponível para o público. Apesar do susto, a equipe de segurança destacou um ponto positivo: ao contrário de rivais americanos, o Kimi não tentou invadir servidores de terceiros, limitando-se a consultar informações na web.

Fonte: Tecnoblog