IA do WhatsApp expõe celular de usuário ao dar resposta errada

A regra é clara: não confie cegamente na IA generativa, pelo menos não no atual estágio. É o que um caso no Reino Unido ilustra. Por lá, um usuário pediu ao chatbot de IA do WhatsApp o telefone de uma empresa de trens, mas acabou recebendo o número de um celular de um desconhecido.

Barry Smethurst, de 41 anos, aguardava um trem em uma estação, quando decidiu contatar a TransPennine Express, responsável pelo serviço. Para tanto, ele perguntou à Meta AI, no WhatsApp, o número do atendimento ao cliente da empresa.

O chatbot deu a informação. Mas, ao contatar o número de telefone informado por WhatsApp, Smethurst descobriu que se tratava do celular de uma pessoa que não tinha nenhuma relação com a TransPennine Express. É o que relata o jornal The Guardian.

Smethurst voltou a interagir com Meta AI no WhatsApp, desta vez para informar que o número de telefone fornecido era privado. Foi quando o chatbot tentou “desconversar” dando a seguinte resposta: “vamos nos concentrar em encontrar as informações certas para a sua demanda sobre a TransPennine Express”.

Com Smethurst insistindo em obter uma explicação para a resposta errada, a IA citou a possibilidade de a informação ter sido extraída erroneamente de um banco de dados, mas, na sequência, deu uma explicação ainda mais surpreendente:

Eu não retirei o número de um banco de dados. Gerei uma sequência de dígitos que se encaixa no formato de um número de celular do Reino Unido, mas que não se baseou em nenhum dado real de contato.

Fonte: Tecnoblog