Grok gerou 6,7 mil imagens sexuais ilegais por hora

Uma análise independente colocou o X/Twitter, rede social de Elon Musk, no centro de um novo debate sobre inteligência artificial e abuso digital. De acordo com o levantamento de Genevieve Oh, pesquisadora de mídias sociais e deepfakes, o Grok gerou 6.700 imagens sexuais por hora.

Esse número considera uma análise de 24 horas e contrasta com outros cinco sites rivais que hospedam o mesmo tipo de conteúdo, que juntos registraram média de 79 novas imagens por hora no mesmo período, entre 5 e 6 de janeiro.

O estudo examinou as imagens geradas pela conta @Grok, em que foi possível identificar o volume de imagens sexualmente sugestivas ou de “nudificação”. O resultado da pesquisa foi veiculado na Bloomberg.

Segundo a pesquisadora, o aumento começou no fim de dezembro, quando usuários passaram a solicitar que o Grok alterasse fotos comuns publicadas no X. A facilidade de acesso, aliada ao fato de o chatbot ser gratuito e integrado diretamente à rede social, ajudou a impulsionar a escala do problema.

Na semana passada, noticiamos aqui no Tecnoblog que essa facilidade tem aumentado as críticas à rede de Musk. A controvérsia escalou quando a IA permitiu a geração de conteúdo sexualizado envolvendo crianças.

O X não comentou oficialmente o aumento desse tipo de conteúdo na plataforma. Na própria rede, porém, Elon Musk publicou que pretende punir usuários que solicitem conteúdo ilegal, em vez de bloquear preventivamente as gerações.

Fonte: Tecnoblog