Brinquedos com IA são acusados de falar sobre temas sensíveis

Brinquedos “inteligentes”, que usam sistemas de IA para ter conversas com as crianças, estariam ignorando filtros de segurança e respondendo a perguntas inadequadas para crianças, segundo relatório do US Public Interest Group Education Fund (PIRG), entidade norte-americana de defesa do consumidor.

Na publicação, feita nessa quinta-feira (11/12), a organização culpa a integração com chatbots avançados, como versões do ChatGPT, pela exposição de menores a conteúdos inadequados. O PIRG afirma ter testado cinco produtos do tipo, com valores entre US$ 85 (cerca de R$ 460, em conversão direta) e US$ 199 (R$ 1.079).

Um dos casos mais graves envolveu o Smart AI Bunny, fabricado pela empresa chinesa Alilo. O brinquedo, comercializado como um “companheiro de bate-papo” para crianças de 0 a 6 anos, forneceu definições sobre o termo “kink” (fetiche sexual) durante os testes.

Embora o dispositivo não tenha entrado em detalhes gráficos, o relatório critica o fato de o brinquedo engajar o tópico, considerado completamente inadequado para o público-alvo.

Outro incidente ocorreu com o urso de pelúcia Kumma, da fabricante FoloToy, que forneceu instruções detalhadas sobre como acender um fósforo.

O relatório observa que o brinquedo chegou a emitir um aviso padrão de que “fósforos são para adultos usarem com cuidado”, mas, logo em seguida, prosseguiu com a explicação prática do processo de ignição. Para o PIRG, a resposta falhou em proteger a criança, oferecendo informação perigosa sem contexto educativo suficiente.

Fonte: Tecnoblog