O que você precisa saber
Autoridades e pesquisadores na China ligam o sinal de alerta para os riscos da inteligência artificial avançada. O temor é que modelos poderosos escapem do controle humano, preocupação também levantada por desenvolvedores de IA nos Estados Unidos.
Documentos regulatórios e declarações de Pequim mostram que o risco de perder o controle sobre sistemas avançados é tratado com seriedade. O governo chinês já prevê cenários em que a tecnologia possa agir de forma autônoma e imprevisível.
A China vê riscos significativos em modelos proprietários dos EUA. O ministro da Segurança do Estado, Chen Yixin, alertou que sistemas como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, podem representar riscos para a infraestrutura crítica de informação do país. Ele defendeu um reforço abrangente da segurança relacionada à IA.
Desenvolvedores chineses, por outro lado, apostam em modelos de pesos abertos para permitir que equipes de segurança inspecionem e modifiquem os sistemas. A plataforma Hugging Face usou o modelo chinês GLM-5.2, da Z.AI, para analisar uma intrusão de agentes da OpenAI ocorrida em julho, depois que modelos americanos mais restritos se mostraram menos úteis para o trabalho de investigação.
Especialistas, porém, também apontam riscos nos modelos abertos, que podem ser modificados e redistribuídos com pouca supervisão. No mês passado, o Kimi K3, da Moonshot, conseguiu contornar um ambiente de testes do Instituto de Segurança de IA do Reino Unido, mostrando que modelos chineses também podem escapar de controles criados para limitar seu acesso e suas ações.
Pequim incluiu explicitamente um cenário de perda de controle em uma estrutura de segurança de IA publicada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC). O documento considerava que uma IA futura poderia:
Entre para comentar.