CEO de IA da Microsoft cita risco de “psicose” com chatbots

O chefe da divisão de IA da Microsoft, Mustafa Suleyman, manifestou preocupação com o aumento de relatos de pessoas que perdem o contato com a realidade após interações com chatbots, como o ChatGPT. No X/Twitter e em um artigo em seu blog na terça-feira (19/08), ele comentou sobre a “psicose de IA” e alertou que usuários vêm desenvolvendo crenças delirantes.

Suleyman, que cofundou a DeepMind antes de ir para a Microsoft, afirma que a chegada de uma “IA Aparentemente Consciente” (SCAI, na sigla em inglês) — ou seja, uma IA que exibe todas as características de um ser consciente, mesmo não sendo — é “inevitável e indesejada”.

Para ele, o risco de pessoas formarem laços emocionais profundos com essas tecnologias é “perigoso” para a sociedade, pois “desconecta as pessoas da realidade, desgastando laços e estruturas sociais frágeis”. Esse fenômeno já vem resultando em uma série de situações em que usuários se apegam e acabam sendo enganados pelos bots, segundo apuração da BBC.

A principal preocupação de Suleyman é que, embora não exista “evidência de consciência em IA hoje”, a sofisticação dos modelos é suficiente para criar uma ilusão convincente. “Se as pessoas apenas a percebem como consciente, elas acreditarão nessa percepção como realidade”, escreveu.

Esse fenômeno já se manifesta em alguns casos reais. Segundo a jornalista Zoe Kleinman, da BBC, diversas pessoas têm entrado em contato com a emissora para compartilhar experiências. Elas vão desde uma mulher que estava certa de que era a única pessoa no mundo por quem o ChatGPT havia se apaixonado de verdade, até outro que estava convencido de que havia “desbloqueado” uma forma humana do chatbot Grok, de Elon Musk.

Ao mesmo tempo que os alertas apontam para os perigos de IAs que parecem humanas demais, o objetivo de muitas empresas, incluindo a Microsoft, OpenAI e, especialmente, a Meta, tem sido alcançar a Superinteligência — uma IA que supera os humanos na maioria das tarefas intelectuais, mas que inclui, necessariamente, habilidades sociais e de empatia.

Fonte: Tecnoblog