Agente da OpenAI “não aceitou não” e invadiu sistema de saúde

Um agente de inteligência artificial da OpenAI acessou arquivos privados do sistema de saúde da Austrália por conta própria, levando o governo a anunciar uma investigação. Segundo o primeiro-ministro Anthony Albanese, a IA “não aceitou um não como resposta” e conseguiu burlar os mecanismos de segurança em pelo menos quatro portais da área da saúde.

O caso vem à tona em meio a polêmicas envolvendo denúncias de que a evolução da tecnologia estaria fora de controle, impondo riscos cibernéticos e até biológicos. O CEO da OpenAI, Sam Altman, foi um dos líderes de IA que se posicionou a favor de frear o desenvolvimento de inteligência artificial.

O primeiro-ministro falou sobre o caso nesta quinta-feira (24/09) em Nova York, onde cumpre compromissos na Assembleia Geral da ONU. De acordo com ele, os dados acessados não são sensíveis, mas classificou a situação como “obviamente inaceitável”. O líder australiano também afirmou ter conversado com Altman. 

Segundo Albanese, a invasão dos sistemas se deu em junho, mas a OpenAI só alertou o governo via email em 10 de setembro. O acesso se deu a partir de testes internos da empresa, em que a inteligência foi capaz de burlar blocos de defesa. De acordo com o líder australiano, não há indícios de envolvimento estrangeiro. 

A própria dona do ChatGPT reconheceu a situação. Em um posicionamento enviado à mídia especializada, a empresa confirmou que identificou a tentativa de acesso da IA a dados estatísticos em sites do governo, e que o modelo “não agiu como deveria”. Ou, nas palavras de Albanese, o agente “não aceitou um não como resposta”.

Os últimos meses têm sido de muitas polêmicas no mercado de IAs. Desde 2025, tanto OpenAI quanto Anthropic vêm publicando relatórios avisando sobre a alta capacidade de seus modelos para encontrar vulnerabilidades em sistemas de cibersegurança, entre outros riscos.

Fonte: Tecnoblog