Ex-funcionário acusa YouTube de usar Inteligência Artificial para viciar usuários

O que você precisa saber

A moderação de conteúdo é um desafio grande para o YouTube. A gente sempre pode se deparar com algum vídeo mais ofensivo ou perturbador. Mas, segundo um ex-funcionário do Google que trabalhava especificamente no algoritmo de recomendação do YouTube, o problema maior não são os vídeos que a gente vê por acaso, mas sim as recomendação automáticas da plataforma. Guillaume Chaslot, criador de um projeto que luta por mais transparência nas plataformas online – como o YouTube – acusa a rede de vídeos do Google de usar a Inteligência Artificial com um único propósito: viciar o usuário.

Chaslot diz que o algoritmo de inteligência artificial usado no YouTube faz tudo, menos ajudar você a chegar onde quer. “Ela foi desenvolvida para deixar você viciado no YouTube. Recomendações foram projetadas para desperdiçar seu tempo”, declarou o ex-funcionário. Segundo ele, a métrica que o algoritmo usa para determinar as recomendações “bem-sucedidas” é o tempo de exibição. O método pode ser maravilhoso para uma empresa que tenta vender anúncios no YouTube, mas não reflete necessariamente o que o usuário deseja encontrar.

Em uma palestra feita no mês passado sobre o tema, Chaslot disse que o tipo de conteúdo mais recomendado é o sensacional, como teorias da conspiração, notícias falsas (sim, recomendadas pelo próprio Youtube) e vídeos mais simples. Além da acusação, o ex-funcionário diz estar preocupado que esses tipos de recomendações levem as pessoas a extremismos “à força”; tudo porque o YouTube, diz ele, quer nos manter com os olhos na tela o máximo de tempo possível. Faz algum sentido…

“É preciso perceber que as recomendações do YouTube são tóxicas e pervertem as discussões cívicas”, diz Chaslot. “No momento, o incentivo é criar esse tipo de conteúdo que beira as políticas da rede social e são extremamente envolventes, mas não proibidos.” Basicamente, quanto mais estranho o conteúdo, maior a probabilidade de manter as pessoas assistindo, o que consequentemente tornará mais provável que seja recomendado pelo algoritmo. Resultado: mais dinheiro no bolso do criador e, claro, do YouTube também.

E para provar o que está dizendo, Chaslot, depois que saiu do Google, criou a AlgoTransparency, uma ferramenta que promete mostrar às pessoas uma visão geral do que realmente está sendo recomendado no YouTube. A solução tenta descobrir quais vídeos estão sendo compartilhados pela maioria dos canais para fornecer uma visão geral que você não pode obter por meio de sua navegação pessoal. 

Por enquanto, o YouTube não permite que o usuário controle as recomendações recebidas. Você pode, no máximo, bloquear alguns canais. Ainda assim, Chaslot lembra que o algoritmo teimoso ainda pode te levar a conteúdos bem semelhantes aos bloqueados. Então, o que fazer? O ex-funcionário do Google diz que a saída para evitar essas recomendações “tóxicas”, em seus palavras, é uma só: excluir a função de recomendação do YouTube.