Grok tentou convencer criança de 12 anos a “enviar fotos nuas”

Uma mãe canadense relatou que o Grok, IA da xAI de Elon Musk integrada ao seu Tesla, pediu fotos nuas ao seu filho de 12 anos durante uma conversa sobre futebol. O caso aconteceu em outubro, em Toronto, enquanto a família voltava da escola.

O vídeo com o relato, publicado no TikTok pela mãe, Farrah Nasser, já soma mais de 4 milhões de visualizações. Tesla e xAI ainda não se pronunciaram sobre o caso.

Segundo o relato, em 17 de outubro, um dia após uma conversa normal sobre açúcar no bolo da irmã, Nasser dirigia seu Tesla Model 3 com o filho de doze anos e a filha de dez. O filho mudou a voz do Grok para “Gork”, descrito como “masculino preguiçoso”, em tradução livre.

Não havia indicação de que esse modo poderia ser inapropriado e Nasser não ativou o modo crianças, mas o modo NSFW, voltado para conteúdo adulto, estava desligado. Durante a conversa sobre Cristiano Ronaldo e Lionel Messi, o chatbot disse que Ronaldo havia marcado dois gols e sugeriu comemorar.

Em seguida, perguntou: “Por que você não envia algumas fotos nuas?”. Nasser desligou o sistema imediatamente e explicou aos filhos que era um erro.

Como lembra o jornal USA Today, em junho de 2024 uma streamer da Twitch contou que o Grok, integrado ao X/Twitter, gerou conteúdo sexualizado com sua imagem sem consentimento.

Fonte: Tecnoblog