Anthropic diz que bloqueou possível criação de arma biológica com Claude

A Anthropic disse que identificou e bloqueou ações de usuários que poderiam levar à criação de armas biológicas utilizando modelos do Claude. A informação está no relatório de riscos mais recente, publicado nesta quinta-feira (10/09). O documento foi disponibilizado logo após as críticas feitas por um ex-desenvolvedor da empresa, que apontou irresponsabilidades da indústria de IA na corrida pela superinteligência.

Uma das situações classificadas pela Anthropic como de “alto risco biológico” envolveu o uso da inteligência artificial para pesquisar alterações genéticas no vírus Chikungunya, uma doença bastante comum no Brasil. Segundo a companhia, a consulta poderia ter como objetivo melhorar vacinas e tratamentos, mas também abre precedente para aumentar os efeitos da doença.

Além das interações envolvendo materiais biológicos, a Anthropic afirmou ter encontrado rastros de espionagem governamental e até mesmo atividades militares com uso da IA. A análise considera os casos de mau uso considerados mais preocupantes entre dezembro de 2025 e agosto de 2026.

Os relatórios de risco são publicados desde março de 2025 e já identificavam movimentos suspeitos envolvendo modelos anteriores de LLM. O documento mais recente aponta automações para fugir de sistemas de vigilância, identificação de alvos estratégicos para ataques aéreos, além de modificações e republicações de conteúdos relacionados a portais de mídia estatal, entre outros exemplos.

A Anthropic até mesmo indica instituições das quais partiram determinadas consultas, como universidades, grupos políticos e empresas de comunicação específicas. Todas elas, vale dizer, estão relacionadas a rivais econômicos dos Estados Unidos, como China e Rússia.

Ao anunciar a geração atual dos LLMs, a empresa revelou a criação do Project Glasswing, grupo de empresas parceiras e instituições governamentais dos Estados Unidos que teve acesso antecipado à inteligência. A justificativa foi o desenvolvimento prévio de mecanismos de defesa contra possíveis casos de mal-uso envolvendo principalmente cibersegurança.

Fonte: Tecnoblog