Apple e Google são acusadas de lucrar com apps que criam nudes falsos

Apple e Google estariam cooperando com a distribuição e a venda de apps de inteligência artificial usados para criar imagens falsas de nudez, segundo uma notificação judicial enviada às empresas pelo procurador-geral da cidade de São Francisco, nos Estados Unidos.

O documento, analisado pelo portal Wired, pede a remoção imediata de 13 apps desse tipo da App Store e da Google Play. Segundo as cartas, eles usam IA para alterar imagens e simular nudez a partir de fotos de pessoas reais, apontados como facilitadores de abusos sexuais, assédios e exploração indevida de imagem.

Para a procuradoria, isso pode violar leis da Califórnia contra pornografia sintética não consensual — e as empresas estariam lucrando com ela ao receberem comissões sobre pagamentos feitos dentro dos aplicativos.

Ao portal, o procurador-geral David Chiu afirma que “gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável”, e diz que as empresas têm responsabilidade de “garantir que os aplicativos em suas plataformas não facilitem o abuso sexual”.

A procuradoria também aponta que alguns desses aplicativos receberam classificações indicativas baixas nas lojas digitais, chegando a aparecer como adequados para crianças.

As cartas exigem que as duas empresas removam os aplicativos identificados e encerrem relações comerciais com os desenvolvedores responsáveis. Segundo as autoridades, a legislação da Califórnia proíbe dar suporte técnico ou financeiro a serviços dedicados à criação e venda de pornografia sintética não consensual.

Fonte: Tecnoblog