OpenAI alega que ChatGPT é inocente em suicídio de jovem

A OpenAI se pronunciou oficialmente sobre o processo que a acusa de responsabilidade na morte de um adolescente de 16 anos. Em documento protocolado na primeira instância da Justiça na Califórnia (EUA) nessa terça-feira (25/11), a empresa argumenta que não pode ser responsabilizada pelo suicídio de Adam Raine, alegando que o incidente foi resultado de “uso indevido, não autorizado e não intencional” da ferramenta.

O caso, movido pela família de Raine em agosto, acusa a companhia de negligência e defeito de produto. Segundo a ação, o garoto teria usado o ChatGPT para planejar o suicídio, recebendo orientações e incentivos do chatbot.

Em sua defesa, a OpenAI culpa a vítima por violar os termos de serviço, que proíbem o uso da plataforma por menores de 18 anos sem consentimento dos pais e vedam conteúdos relacionados a automutilação e suicídio. Além disso, reforça, em seu blog oficial, que apresentará “fatos difíceis” sobre a vida e a saúde mental do jovem para que o tribunal tenha o “quadro completo”.

No início deste mês, outros sete processos também alegaram negligência e danos causados pelo GPT-4o, o mesmo utilizado por Reine. A empresa não mencionou esses casos na defesa.

O principal argumento da OpenAI é de que o ChatGPT conta com salvaguardas robustas e que, no caso de Reine, o sistema forneceu o número da linha de prevenção ao suicídio mais de 100 vezes antes da morte.

A defesa cita que Raine utilizou métodos para “enganar” o modelo, como fingir que estava apenas “construindo um personagem” para uma história, conseguindo assim obter as respostas que desejava, apesar dos bloqueios programados.

Fonte: Tecnoblog