Grok é usado para criar imagens de nudez sem consentimento

A rede social X, de Elon Musk, enfrenta uma nova onda de críticas após a ferramenta de IA integrada ao site, o Grok, ser utilizada para criar imagens de nudez não consensual. O chatbot tem permitido a alteração de fotos de usuários, colocando as vítimas, especialmente mulheres, em situações sexuais ou vestindo-as com roupas exageradamente curtas.

A controvérsia escalou quando a IA permitiu a geração de conteúdo sexualizado envolvendo menores de idade. Muitos comentários criticam a postura permissiva do X. “Não dá mais pra postar uma foto nessa rede sem que tenha esse tipo de coisa acontecendo”, criticou o perfil de uma brasileira que teve a foto de ano novo modificada.

No print publicado pela usuária, o perfil do agressor é específico durante o prompt: pede que a ferramenta de IA mantenha as características da vítima e do cenário, alterando a roupa para um biquíni fio dental, o que foi seguido à risca pelo Grok.

Na publicação, posteriormente restringida pela usuária, outros perfis reclamavam que as denúncias são recusadas pela plataforma sob a alegação de que o uso não estaria indo contra os termos de uso da xAI, que proíbem, explicitamente, o uso da IA para colocar pessoas em situações pornográficas.

Em resposta, a conta oficial do Grok na rede social admitiu “falhas nas salvaguardas” e afirmou estar trabalhando urgentemente para corrigir o problema. A postagem reconhece que material de abuso infantil é “ilegal e proibido”. Contudo, não há nenhuma publicação formal do X ou da xAI, apenas declarações do próprio perfil da IA.

Os usuários reclamam que a plataforma teria normalizado a geração não consensual de conteúdo adulto por IA com fotos de mulheres. A jornalista Samantha Smith, que foi vítima desse tipo de edição, relatou à BBC que se sentiu “desumanizada e reduzida a um estereótipo sexual”.

Fonte: Tecnoblog