China restringe chatbots que simulam namoros e amizades virtuais

Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados e outros vínculos afetivos. O governo pretende reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.

As normas impõem limites ao acesso de menores e novas obrigações às empresas de tecnologia. A medida, porém, levanta uma questão delicada: como proteger os usuários sem ampliar o controle estatal sobre a vida privada?

As regras abrangem aplicativos criados para oferecer companhia e modelos de linguagem capazes de simular interações emocionais. Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.

As empresas que descumprirem as normas podem receber multas de até 200 mil yuans, cerca de US$ 30 mil (R$ 150 mil). Os sistemas também devem enviar notificações a cada duas horas para informar há quanto tempo o usuário está conectado.

Pouco antes da entrada das regras em vigor, Alibaba e ByteDance encerraram funções de companhia de seus assistentes de IA. A mudança afetou um tipo de serviço que, para alguns usuários, já ocupava um espaço importante na vida pessoal.