O que você precisa saber
A Anthropic interrompeu tentativas de usar sua inteligência artificial, o Claude, para criar armas biológicas, coordenar ataques cibernéticos contra a Ucrânia e extrair capacidades dos modelos por empresas chinesas.
As descobertas constam no relatório de inteligência de ameaças da desenvolvedora, publicado na última quinta-feira. O levantamento detalha operações irregulares identificadas e combatidas nos últimos oito meses.
Como o Olhar Digital divulgou há alguns dias, cientistas tentaram usar o assistente virtual em atividades que poderiam contribuir para o desenvolvimento de armas biológicas. Um dos casos envolveu um pesquisador de uma região não atendida pela Anthropic, que usou servidores virtuais para acessar o Claude e planejar experimentos sobre a adaptação da gripe aviária a mamíferos.
Operadores da China, Rússia e Iêmen também usaram o Claude no desenvolvimento de softwares para mísseis, drones e bombas.
Há um ano, se você quisesse otimizar um drone ou o software de um míssil, os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora.
O grupo também criou um sistema que identificava quando seu programa malicioso era bloqueado por mecanismos de segurança e reescrevia o código para tentar escapar da detecção.
Entre para comentar.