China desativa robôs que não amavam o partido comunista

O que você precisa saber

Um deles era um bot chamado XiaoBing que era gerenciado pela Microsoft no país. Usuários enviaram prints que mostravam o bot dizendo aos chineses “Meu sonho da China é ir para a América”. O outro era da empresa Turing Robot (uma gigante da tecnologia no país) e se chamada BabyQ. Quando um usuário perguntou ao BabyQ se ele amava o partido comunista, ele respondeu simplesmente: “não”. Os dois foram desativados.

A Tencent, que gerencia a plataforma de mensagens, se manifestou dizendo que os bots “são providenciados por terceiros. Estamos ajustando os serviços, que serão retomados após melhorias”. A Microsoft, a quem o The Verge solicitou um posicionamento sobre a situação, ainda não deu uma resposta. 

Pelo menos a Microsoft já tem alguma experiências que não se comportam da maneira esperada. A Tay, uma das primeiras inteligências artificiais da empresa, se transformou em um tuiteiro racista que defendia o holocausto e foi desativada. Sua sucessora, a Zo, foi programada para não discutir política, mas isso não a impediu de dizer que não queria o Windows 10 e que “Linux é vida”. 

Provavelmente, tanto os chatbots da Microsoft quanto as criações recém-desativadas da China padecem do mesmo mal: o comportamento dos usuários. Como os bots são programados para desenvolver seu comportamento de acordo com as interações com seus usuários, a melhor explicação para isso é que o robô está apenas reproduzindo respostas que ele viu outras pessoas darem.