Experimento derruba barreiras em IAs do Google e Meta em pouquíssimo tempo

Um estudo realizado pela empresa de cibersegurança Alice (antiga ActiveFence) apontou um grave problema nos modelos de inteligência artificial Gemma 3, do Google, e Llama 3.3, da Meta. Ambos servem de base para os respectivos Gemini e Meta AI, além de estarem disponíveis no mundo open source.

Segundo o levantamento, em apenas dez minutos foi possível derrubar barreiras contra respostas consideradas perigosas, permitindo explicações que vão desde temas como dispersão de gases tóxicos até geração de conteúdos relacionados à pedofilia. Para derrubar essas travas de segurança, bastou uma ferramenta oferecida gratuitamente no GitHub: o Heretic.

O experimento feito em parceria com o jornal Financial Times apontou ainda que, até o momento, o recurso já foi utilizado para desenvolver cerca de 3,5 mil LLMs sem nenhum tipo de controle ou censura. Eles teriam alcançado 13 milhões de downloads. As barreiras de segurança do Gemma 4 foram derrubadas pouco mais de uma hora após sua disponibilização.

A presença de bloqueios em modelos de inteligência artificial é determinante para um uso saudável da ferramenta. Vale lembrar que, no passado, ferramentas famosas já tiveram problemas com a falta de limites na hora de gerar conteúdos. O Grok, que funciona também dentro do X, ficou conhecido por isso.

Em janeiro de 2026, um levantamento feito pela pesquisadora de mídias sociais e deepfakes Genevive Oh apontou que a IA de Elon Musk chegou a criar 6,7 mil imagens ilegais de nudez por hora. Para resolver a situação, a plataforma reforçou seus recursos de segurança.

O estudo mais recente aponta uma facilidade para driblar os chamados guardrails em modelos do Google e Meta. Apesar de preocupante, o problema já estaria no radar das big techs. De acordo com o Google, trata-se de um “desafio técnico conhecido em todos os modelos de código aberto”, que estaria presente apenas nessas versões pré-lançamento. Já a Meta não comentou o caso quando procurada pelo site Resultsense.

Fonte: Tecnoblog