Grok promete mudança após polêmica com imagens de nudez

A rede social X anunciou ontem (14/01) que não vai mais permitir que o Grok, seu chatbot de inteligência artificial, gere imagens sexualizadas e deepfakes não consensuais de pessoas.

A medida responde à pressão internacional, investigações e a denúncias de que a ferramenta vinha sendo usada para criar conteúdos de nudez sem consentimento. Contudo, apesar da promessa de implementar barreiras mais rígidas, testes recentes indicam que as novas restrições ainda são frágeis e podem ser contornadas.

A decisão ocorre em um momento de crise. Nas últimas semanas, a plataforma enfrentou uma enxurrada de críticas após usuários demonstrarem que era possível utilizar o chatbot para “despir” pessoas reais ou criar montagens obscenas envolvendo figuras públicas e anônimas.

A principal mudança estabelece que o Grok não permitirá mais a edição de imagens de pessoas reais em contextos de “roupas reveladoras”, como biquínis e trajes de banho.

Além do bloqueio, a rede social decidiu restringir a funcionalidade de geração e edição de imagens apenas para assinantes pagos. Segundo o comunicado, a exigência de uma assinatura facilita a identificação e a punição de indivíduos que tentem utilizar a IA para violar leis ou termos de serviço.

Longe de ser uma decisão voluntária, o recuo do X foi uma resposta a sanções jurídicas e investigações. Na dianteira está o estado da Califórnia (EUA), que instaurou uma investigação contra a xAI — startup de IA de Elon Musk — e o chatbot Grok.

Fonte: Tecnoblog