Governo aponta riscos em “companheiros de IA” para menores no Brasil

O Ministério da Justiça e Segurança Pública (MJSP) identificou possíveis riscos a crianças e adolescentes em 13 plataformas de “companheiros de IA” disponíveis no Brasil. A análise cita serviços como Character.AI e Replika, e aponta problemas relacionados à verificação de idade, uso obsessivo, conteúdo sexualizado e coleta de dados pessoais.

O levantamento foi conduzido pela Secretaria Nacional de Direitos Digitais (Sedigi) e reuniu estudos, informações públicas e testes sobre esse tipo de serviço. O material foi encaminhado à Agência Nacional de Proteção de Dados (ANPD) e à Secretaria Nacional do Consumidor (Senacon) para avaliação.

Os serviços são desenvolvidos para manter interações contínuas e personalizadas, podendo simular relações afetivas e de apoio emocional, além de memorizar informações fornecidas pelo usuário. A lista reúne:

Segundo a Sedigi, esse mercado cresceu rapidamente: um relatório do Unicef aponta que o número de plataformas passou de 16, em 2022, para 128 em julho de 2025. No primeiro semestre daquele ano, os serviços somaram 60 milhões de downloads.

A nota aponta riscos de apego intenso, substituição de relações humanas, uso compulsivo e exposição a interações sexualizadas ou inadequadas para a idade. O documento também menciona coleta de informações íntimas e criação de perfis comportamentais e emocionais.

Segundo o documento, dez dos sistemas avaliados admitem autodeclaração por data de nascimento ou confirmação simples de maioridade. Testes citados pela Sedigi indicam que esse mecanismo pode ser contornado, permitindo a criação de perfis adultos por usuários adolescentes.

Fonte: Tecnoblog