Pressionada, OpenAI lança controle parental no ChatGPT

Após críticas e processos judiciais, a OpenAI lançou, nesta segunda-feira (29/09), um novo conjunto de ferramentas de controle parental para o ChatGPT. A atualização foi anunciada no início deste mês, mas começa a ser disponibilizada hoje. Com ela, pais e responsáveis poderão vincular suas contas às de seus filhos adolescentes.

A mudança de postura da empresa ocorre após uma série de incidentes que expuseram a vulnerabilidade de jovens na plataforma. Por isso, as novas configurações incluem restrição de acesso em determinados horários e, principalmente, notificações caso haja detecção de conversas sobre temas sensíveis, como automutilação e suicídio.

Em agosto, um caso envolvendo um adolescente de 16 anos repercutiu após a família revelar que o jovem conversou durante meses com o chatbot sobre seus problemas. De acordo com os pais, o robô o ajudou a rascunhar uma carta de despedida antes de tirar a própria vida.

Para utilizar os novos recursos, é necessário consentimento mútuo: os pais precisam enviar um convite para vincular as contas, e o adolescente deve aceitá-lo. Uma vez conectadas, será possível acessar as configurações na nova seção “Controle Parental”, no menu do ChatGPT, no qual é possível personalizar a experiência do jovem.

Entre os vários novos recursos, um dos principais é um novo sistema de notificações, a resposta da empresa aos incidentes trágicos envolvendo a plataforma nos últimos meses. Quando o sistema detectar que um adolescente pode estar pensando em se machucar, uma pequena equipe de moderadores humanos deverá revisar as mensagens. Se houver sinais de perigo, os pais receberão um e-mail, SMS ou notificação no aplicativo.

A família do adolescente Adam Raine alegou, em processo movido contra a empresa, que o chatbot não apenas falhou em alertar sobre os riscos, como teria incentivado o jovem. Agora, a OpenAI afirma que, em situações de ameaça iminente à vida e sem conseguir contatar os pais, poderá acionar autoridades locais.

Fonte: Tecnoblog