Facebook proíbe deepfakes que possam enganar “usuário médio”

Em um esforço contra a manipulação de informação, o Facebook decidiu proibir vídeos de deepfakes capazes de enganar o “usuário médio”. Ou seja, alguém que não é absolutamente leigo, mas na pressa pode ser levado a crer em narrativas falsas. 

A abordagem da rede social soma vários componentes, que vão desde a investigação de conteúdos gerados por inteligência artificial e engajamento enganoso (como contas falsas), até parcerias com universidades, governo e indústria para expor os autores.

De acordo com o Facebook, as manipulações mais comuns na rede social envolvem tecnologia simples como o Adobe Photoshop. Outras, mais raras, fazem uso de ferramentas sofisticadas que usam inteligência artificial ou técnicas de deep learning para criar vídeos que distorcem a realidade — os vídeos falsos que são mais conhecidos como deepfakes. A plataforma não divulgou números sobre a popularidade deles.

“Embora esses vídeos ainda sejam raros na Internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que seu uso aumenta”, diz o comunicado assindo por Monika Bickert, Vice President, Global Policy Management.

Para chegar a tal decisão, a Bickert afirma que a plataforma consultou mais de 50 especialistas em todo o mundo com formação técnica, política, de mídia, jurídica, cívica e acadêmica para criar suas políticas e melhorar a sua detecção de mídias manipuladas.

No futuro — a rede social não determinou a partir de quando — serão removidas mídias manipuladas com orientação enganosa se ela atende a dois dos critérios:

Fonte: Tecnoblog