Como o Facebook está tentando eliminar o pior trabalho na área de tecnologia

O que você precisa saber

Muitos trabalhos neste mundo têm o potencial de traumatizar o trabalhador, mas na área de tecnologia, nenhum é capaz de fazer tanto estrago psicológico quanto o de moderador de redes sociais, que analisa o conteúdo denunciado pelos usuários da plataforma. São as pessoas que precisam avaliar se as denúncias são válidas, que acabam sendo expostas a todo tipo de material traumatizante.

Em geral, uma rede social de grande porte como o Facebook não conta com muitos funcionários próprios para realizar a função, e se apoiam na terceirização da tarefa para outras empresas. Infelizmente, estas pessoas geralmente são muito mal pagas pelo trabalho; em 2014, um artigo da Wired mostrava que existiam cerca de 100 mil pessoas moderando redes sociais, e que essas pessoas frequentemente ganhavam salários na casa dos US$ 500. Os relatos de desenvolvimento de síndrome de stress pós-traumático são comuns, e os danos psicológicos são profundos.

A eliminação deste posto de trabalho traumatizante é um dos objetivos da pesquisa do Facebook com inteligência artificial. A empresa tem desenvolvido a tecnologia para que ela se torne a primeira linha de defesa contra o conteúdo ofensivo, poupando os humanos de ver uma boa parte do que não deveria ser visto por ninguém, como cenas de violência, estupros, decapitações, pedofilia, pornografia de vingança e racismo.

A inteligência artificial é utilizada em várias aplicações mais próximas do consumidor, como a identificação de rostos em imagens para que as pessoas sejam “tagueadas” automaticamente, o reconhecimento de imagens para que possam ser “lidas” por pessoas cegas, a categorização de vídeos e a criação de legendas traduzidas pela máquina.

No entanto, todos esses recursos também ajudam quem trabalha por trás das cortinas. As máquinas podem analisar todas as imagens enviadas para o servidor antes mesmo que ela seja publicada, o que não só poupa um moderador de ter que ver aquelas imagens, mas também evita que elas sejam publicadas, impedindo-as de chegar aos usuários.

Segundo Joaquin Candela, diretor de engenharia em aprendizado de máquina aplicado no Facebook, hoje já há mais denúncias de imagens ofensivas feitas por algoritmos de IA do que por pessoas. “Quanto mais empurrarmos este número para perto do 100%, menor fotos ofensivas precisam ser vistas por um humano”, ele afirma em entrevista ao TechCrunch.