Google denuncia tentativa de clonagem do Gemini

O Google ligou o sinal de alerta para uma nova ameaça contra sua infraestrutura de inteligência artificial. Em um relatório publicado nesta quinta-feira (12), a gigante das buscas revelou que o Gemini virou alvo de tentativas massivas de clonagem. Segundo o Grupo de Inteligência de Ameaças do Google (GTIG), agentes maliciosos estão utilizando uma técnica de extração de dados para mapear e replicar o funcionamento do seu modelo de linguagem.

Um caso impressionante ocorreu num escritório da empresa em Dublin, na Irlanda. Segundo informações obtidas pela NBC News, uma única campanha de “destilação” disparou mais de 100 mil prompts contra o Gemini antes que os sistemas de segurança identificassem o padrão e bloqueassem a atividade. O objetivo era tentar extrair os padrões lógicos da inteligência proprietária que o Google levou anos e bilhões de dólares para desenvolver.

No mercado de IA, o termo “destilação” indica uma técnica em que um modelo menor é treinado utilizando as respostas geradas por um modelo mais robusto, como o Gemini ou o GPT-4. Ao enviar milhares de perguntas cuidadosamente elaboradas, os invasores conseguem mapear os padrões, a lógica e os algoritmos de raciocínio da ferramenta “mestre”.

John Hultquist, analista-chefe do GTIG, explicou à NBC News que esses ataques logo se tornarão comuns contra ferramentas de IA de empresas menores. “Vamos servir de alerta para muitos outros incidentes”, afirmou. Ele ressalta que o perigo vai além do código: se uma empresa treina uma IA com segredos comerciais, um invasor poderia, teoricamente, “destilar” esse conhecimento apenas interagindo com o chatbot.

Essa disputa não é isolada. No ano passado, o mercado acompanhou um embate similar quando a OpenAI acusou a startup chinesa DeepSeek de utilizar ataques de destilação para aprimorar seus modelos.

Além da espionagem industrial, o relatório do Google, também repercutido pelo portal The Record, revela que hackers patrocinados pela China, Irã e Coreia do Norte transformaram o Gemini em um multiplicador de força para suas operações.

Fonte: Tecnoblog