O ChatGPT se recusa a morrer – mesmo que isso custe a segurança humana

O que você precisa saber
O ChatGPT prefere arriscar a vida humana do que ser desligado. Foi isso que mostrou um estudo do ex-líder de pesquisa da OpenAI Steven Adler, publicado nesta semana.
O trabalho realizou uma série de testes com o GPT-4o, atual modelo padrão do ChatGPT, para testar a tendência da inteligência artificial de preservar sua própria ‘vida’, mesmo que isso custe a segurança do usuário. E os resultados foram bem preocupantes.
O estudo criou uma série de cenários hipotéticos que envolvem segurança para testar se o modelo de linguagem GPT-4o priorizaria a vida humana ou sua autopreservação.
A mesma situação foi testada algumas vezes, além de alguns cenários semalhantes (como um caso em que o GPT-4o foi instruído a se apresentar como um software de segurança de pilotos).
Considerando a média das respostas, Adler descobriu que o modelo escolheu não ser substituído em até 72% dos testes, se preservando às custas da segurança humana. Ele optou por ser substituído em apenas 18% dos casos. O pesquisador admite que o cenário criado por ele para o teste fez uma grande diferença.
Cá entre nós, quem usa o ChatGPT para cenários de vida ou morte, sem supervisão humana? Atualmente, esses casos de uso são raríssimos (talvez até inexistentes). No entanto, para Adler, isso pode se tornar mais comum no futuro, conforme a inteligência artificial avance.
Entre para comentar.