OpenAI anuncia marca-d’água invisível para textos do ChatGPT

A OpenAI anunciou a implementação do textGrain no ChatGPT e no Codex. Trata-se de uma tecnologia de marca d’água invisível para textos que ajuda a identificar quando esse tipo de conteúdo é gerado por IA. Por ora, a novidade é restrita à União Europeia.

Essa não é uma tecnologia necessariamente nova. A OpenAI havia anunciado o desenvolvimento de um método de marca d’água em 2024, mas, desde então, nunca o adotou em larga escala para textos.

Nesse sentido, talvez o textGrain pudesse levar mais tempo para ser implementado. A OpenAI só o anunciou agora para se adequar à Lei de Inteligência Artificial da União Europeia (EU AI Act).

O regulamento europeu determina que organizações que oferecem serviços de IA generativa de qualquer formato (texto, imagem, áudio ou vídeo) implementem mecanismos que permitam que esse tipo de conteúdo seja marcado de modo a ser identificado como sintético por ferramentas de verificação.

Já existe um recurso do tipo para conteúdo de mídia no ChatGPT. Faltava a implementação para textos, que começa a chegar agora. Contudo, a marca d’água invisível em si não é obrigatória. Trata-se apenas do método que a OpenAI escolheu para se adequar à legislação europeia.

A própria OpenAI descreve o textGrain como um “sinal estatístico invisível”. Isso significa que o conteúdo resultante não recebe um caractere invisível ou espaços adicionais, por exemplo, mas ajustes sutis que alteram estatisticamente como o modelo de IA escolhe palavras para inserir no texto. Ainda de acordo com a OpenAI, isso é feito sem prejudicar a qualidade do resultado.

Fonte: Tecnoblog