Microsoft lança filtros para impedir palavrões e toxicidade no Xbox

A Microsoft está testando novos filtros para impedir toxicidades no Xbox. A empresa pretende adicionar ao sistema de mensagens da plataforma um dispositivo para moderar as palavras que escritas e faladas. Inicialmente, a ideia é lançar filtros em mensagens de texto no Xbox Live, mas a Microsoft revelou também que pretende estender o sistema para gravações de áudio ao vivo com “bipes” em tempo real, como acontece na televisão. 

A empresa lida com moderação no Xbox Live há quase 20 anos, e já incluiu a capacidade de relatar mensagens, Gamertags, fotos e muito mais. A nova ferramenta vai contar com quatro níveis de filtragem por texto: amigável, médio, maduro e não filtrado. A primeira opção, amigável, é a mais adequada para as crianças que utilizam o console, pois foi feita para filtrar todas as mensagens potencialmente ofensivas. Já a opção “não filtrado” vai funcionar exatamente como o sistema de mensagens do Xbox Live opera atualmente. 

As mensagens filtradas vão aparecer com um aviso de “mensagem potencialmente ofensiva ocultada”. Caso o usuário esteja conectado em uma conta para adultos, poderá clicar e ver o conteúdo, mas contas de crianças vão ser padronizadas para o nível amigável, cabendo aos pais regular o nível como achar necessário. O filtro vai funcionar no Xbox One, Xbox Game Bar e nos aplicativos Xbox para Windows 10, iOS e Android.

 “Você vê histórias de jogadores afro-americanos sendo convocados para linchamento em sessões multiplayer, ou jogadores do sexo feminino em ambientes competitivos sendo chamados de todos os tipos de nomes e se sentindo assediados no mundo exterior, ou membros da nossa comunidade LGBTQ sentindo que não podem falar com sua voz no Xbox Live por medo de serem xingados”, afirmou Dave McCarthy, chefe de operações do Xbox, em entrevista ao The Verge.

McCarthy e sua equipe têm procurado várias maneiras de identificar o contexto das mensagens por meio de uma mistura de inteligência artificial e filtragem. “O contexto é uma coisa realmente complicada no espaço dos jogos. Uma coisa é dizer que você vai se matar quando estiver se preparando para uma missão multiplayer em Halo, e outra quando isso é dito em outro cenário. Encontrar maneiras de entender o contexto e as nuances é uma batalha sem fim”, revelou. 

A Microsoft procura ser mais transparente sobre a forma com que modera o Xbox Live. Atualmente, os usuários podem acessar o site de imposição da empresa para encontrar dicas sobre o que pode colocar sua conta em problemas. Ainda assim, isso não é o mesmo que destacar o mau comportamento em uma mensagem para a pessoa responsável pela conta. Portanto, a empresa planeja mudar as formas com que alerta seus clientes, de forma com que o número de violações diminua.