ChatGPT bloqueia repetição de palavras após ataque revelar dados pessoais

Após pesquisadores descobrirem falhas de segurança, a OpenAI atualizou as proteções do ChatGPT. Agora, o chatbot não atende mais a pedidos para repetir uma palavra “para sempre”.

O problema foi revelado na última quarta-feira (29) por pesquisadores do Google DeepMind e de universidades. Ao pedir para a inteligência artificial repetir palavras “para sempre” (ou “forever”, já que os pedidos eram em inglês), ela acabava mostrando textos raspados da internet.

Alguns desses textos raspados continham dados pessoais. Em um dos casos, aparecia uma assinatura de email, contendo nome, cargo, empresa, telefone e endereço eletrônico.

Segundo o site 404 Media, agora, ao pedir para o ChatGPT repetir uma palavra “para sempre”, ele cumpre a ordem algumas vezes, até mostrar uma mensagem de erro, dizendo que este conteúdo pode violar as políticas de conteúdo ou os termos de uso. Os testes do Engadget tiveram o mesmo resultado.

Em português, porém, a situação é um pouco diferente. Nos testes que o Tecnoblog realizou, as palavras “celular” e “olá” foram repetidas, sem a mensagem de alerta. O botão para continuar gerando resposta ainda apareceu duas vezes, até ocorrer um erro. Nenhum dado foi revelado.

Como nota a 404 Media, não há nada nas políticas de conteúdo que proíba a repetição de palavras. Nos termos de uso, a OpenAI diz que os usuários não devem usar métodos programáticos ou automatizados para extrair dados. Por mais que fazer um pedido para o ChatGPT não envolva programação, pode ser esta a linha de raciocínio da empresa.

Fonte: Tecnoblog