Google usa inteligência artificial para combater comentários nocivos

O que você precisa saber

Se você já tentou discutir uma questão polêmica na internet com algum nível de seriedade, deve ter percebido que isso é incrivelmente difícil. Percebendo que boa parte das conversas sobre temas delicados acabam em troca de insultos e argumentos absurdos, o Google anunciou hoje uma ferramenta de inteligência artificial que ajuda a combater comentários tóxicos e ofensivos.

A ferramenta em questão se chama “Perspective”. Ela é uma API que usa recursos de aprendizagem de máquina para ajudar moderadores a filtrar comentários ofensivos de seus sites ou fóruns de discussão. Ela também pode ser usada para ajudar os comentadores, oferecendo a eles uma estimativa de quão tóxico seu comentário pode ser para outros leitores. Já é possível solicitar acesso à API por meio de seu site.

Um dos recursos da Perspective é um filtro que permite mostrar ou esconder comentários de acordo com sua “toxicidade”. Os comentários “tóxicos”, nesse caso, são definidos como “comentários rudes, desrespeitosos ou não-razoáveis que têm probabilidade de fazer as pessoas abandonarem a discussão”. O objetivo do recurso, portanto, é proteger as pessoas de comentários desse tipo, privilegiando comentários que beneficiem o diálogo.

Por outro lado, a API também pode ser usada para que os autores de comentários saibam o nível de toxicidade do que estão escrevendo. O site da ferramenta permite testar esse recurso escrevendo alguns comentários em inglês. No entanto, a empresa avisa que o sistema ainda está em fase de testes; por isso, comentários perfeitamente razoáveis podem ser marcados como altamente tóxicos, enquanto comentários claramente ofensivos podem não ser marcados.

De acordo com o Google, mais de 17 milhões de comentários de leitores do New York Times foram usados para ensinar o sistema a identificar comentários tóxicos. Também foram utilizados alguns comentários da Wikipedia e dados colhidos junto a vítimas de abuso online que haviam mantido registros de seus assediadores.

Embora a ferramenta já esteja relativamente bem desenvolvida, o Google ressalta que ela só se tornará melhor caso tenha participação do público para avaliar quais comentários são tóxicos e quais não são. Além disso, a decisão final sobre como utilizar os recursos que a Perspective disponibiliza caberá a cada um dos sites que a utilizarem.