Comando de voz mal interpretado faz assistente recitar pornografia para criança

O que você precisa saber

Alexa é uma assistente virtual – como a Siri, da Apple, ou a Cortana, da Microsoft – desenvolvida pela Amazon. Trata-se de um sistema de inteligência artificial que comanda o Amazon Echo, um dispositivo conectado à internet que responde a comandos de voz para realizar diversas tarefas.

Como qualquer sistema que precisa ouvir a voz do usuário para realizar pesquisas ou acionar aplicativos, nem sempre a Alexa entende bem o que lhe é falado. É o que acontece neste vídeo de 24 segundos que tem viralizado nas redes sociais deste a última quinta-feira, 29.

No vídeo, uma criança americana, ainda com certa dificuldade para se expressar de forma clara devido a sua tenra idade, tenta pedir para que Alexa toque a música “Twinkle Twinkle” – uma versão da famosa cantiga “brilha, brilha, estrelinha”. O resultado, porém, é o oposto do que os pais certamente queriam registrar na câmera.

Por algum motivo, Alexa não entende o pedido do garoto e parece fazer uma pesquisa por termos pornográficos. A assistente começa a dizer palavras como “hot”, “amateur”, “girl”, “sexy”, “pussy”, “anal”, “dildo” e outros termos ainda mais pesados para uma criança. A sequência só termina quando um adulto exclama “Alexa, pare”, e a assistente cancela a busca.

Ao que tudo indica, o comando de voz acionou uma pesquisa por este toque de celular, intitulado “Porn Detected!”, e que recita muitas das palavras de baixo calão que Alexa repetiu aos ouvidos do garoto.

Seja como for, a situação não deixa de ser, no mínimo, inusitada – e um bom exemplo do quanto empresas que desenvolvem aplicações com inteligência artificial ainda precisam melhorar em seus sistemas de reconhecimento de fala. Especialmente se queremos evitar situações como essas.