Desenvolvedor da Anthropic pede demissão e alerta para perigos da IA

Um ex-funcionário da Anthropic pediu demissão nesta terça-feira (08/09) e aproveitou para denunciar irresponsabilidades dela (e de outras big techs) no desenvolvimento de inteligência artificial. Jacob Coxon publicou uma carta aberta falando da sua experiência nos últimos três anos, tanto na dona do Claude quanto na OpenAI, responsável pelo ChatGPT.

Ele afirmou que as pessoas por trás do desenvolvimento de IA “sinceramente acreditam que a tecnologia pode matar todos nós até o final da década”. O risco estaria relacionado à produção de uma superinteligência capaz de se autoaperfeiçoar, ou seja, identificar falhas e melhorar por conta própria.

Jacob disse que as IAs em breve poderão acessar qualquer dado, dominar qualquer tema e adquirir poder próprio. O assunto pegou fogo, e outros especialistas confirmaram os riscos citados, mas apontaram os esforços para evitá-los.

Jacob afirmou que há uma noção do risco dentro da Anthropic, mas o foco atual é alcançar a superinteligência antes das empresas rivais, a qualquer custo. Isso significaria uma IA autossuficiente, tanto para tomar suas próprias decisões como para melhorar suas capacidades sem a necessidade de interferência humana.

Para corroborar essa teoria, ele destacou indícios recentes de como o ritmo de desenvolvimento das IAs é arriscado, citando o caso do Hugging Face, plataforma que reúne diversos agentes baseados nos principais LLMs do mercado. Em julho, um ataque de modelos da OpenAI contornou mecanismos de segurança e comprometeu sistemas do site e da própria desenvolvedora.

Sobre o caso, OpenAI afirmou que se trata mesmo de um sinal de alerta, e que são necessários investimentos em salvaguardas. A empresa falou inclusive em “controlar o ritmo” de desenvolvimento, algo que vem sendo apontado pela rival Anthropic. Vale lembrar que os recentes modelos GPT-5.6 e Mythos 5 tiveram seus respectivos lançamentos adiados sob a justificativa de serem muito avançados para o público geral.

Fonte: Tecnoblog