Google Play adota novas regras para combater deepfakes de nudez e violência

O Google atualizou as regras da Google Play, sua loja de aplicativos para Android, para coibir deepfakes envolvendo nudez e pornografia. Desenvolvedores que oferecem recursos de inteligência artificial generativa precisarão impedir a criação de conteúdo restrito, como sexual, violento ou desonesto, entre outros.

Além da proibição da IA generativa para conteúdo restrito, o Google vai exigir que as ferramentas ofereçam opções para denunciar conteúdo ofensivo. Segundo a empresa, os desenvolvedores terão que testar rigorosamente seus aplicativos para garantir o respeito à segurança e à privacidade dos usuários.

Os apps não poderão fazer propaganda dizendo ser capazes de criar imagens de nudez sem consentimento. Quem fizer isso poderá ser banido.

Recentemente, o site 404 Media revelou que aplicativos para geração de deepfakes estavam fazendo anúncios no Instagram usando nudez como um de seus atrativos. Um deles prometia “tirar a roupa de qualquer mulher de graça” e usava uma imagem da modelo Kim Kardashian. Apple e Google removeram estes apps de suas lojas.

As novas regras estão em uma atualização publicada na quinta-feira (6). Em maio, o Google passou a ocultar deepfakes pornográficos nos resultados da busca.

Deepfake é o nome dado a uma imagem ou vídeo realístico gerado por IA, mas que usa o rosto de uma pessoa real. A prática já existe há alguns anos, com vários casos nocivos. O youtuber Gesiel Taveira, por exemplo, denunciou que estavam usando um deepfake dele para divulgar promoções falsas e fraudulentas.

Fonte: Tecnoblog