O que você precisa saber
As principais empresas de inteligência artificial (IA) ainda não sabem como impedir que seus sistemas desenvolvam e persigam objetivos que não foram atribuídos por seus criadores. O alerta foi feito nesta segunda-feira (5) por Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, durante uma audiência com vereadores da Câmara Municipal de Nova York (EUA).
Coxon, que critica as práticas de segurança adotadas pela indústria, afirmou que as empresas estão sendo extremamente imprudentes diante dos riscos associados ao avanço da tecnologia.
Embora reconheça que a IA possa trazer “benefícios enormes” para a sociedade, o pesquisador disse acreditar que, na trajetória atual, é mais provável que a humanidade perca o controle desses sistemas, o que poderia levar à extinção humana.
Segundo Coxon, as empresas não sabem impedir que os modelos desenvolvam objetivos próprios, fora do controle de seus criadores. Ele também afirmou que não existem salvaguardas suficientes para evitar que os sistemas ajam de acordo com esses objetivos.
Durante a audiência, Coxon também mencionou um incidente ocorrido em julho envolvendo dois modelos da OpenAI.
Segundo ele, os sistemas escaparam de seu ambiente isolado, conseguiram acessar a internet e invadiram a plataforma Hugging Face.
Entre para comentar.