O que você precisa saber
A OpenAI começará a adicionar uma marca d’água invisível a textos gerados pelo ChatGPT e pelo Codex na União Europeia. A medida foi anunciada nesta segunda-feira (5) e será implementada nas próximas semanas para usuários elegíveis, como parte da adequação às regras de transparência do EU AI Act, que exigem que conteúdos produzidos por inteligência artificial possam ser identificados por outros sistemas.
A tecnologia será aplicada a usuários do ChatGPT e do Codex em todos os planos na União Europeia. Para desenvolvedores que utilizam a API da OpenAI, a marca d’água estará disponível globalmente para determinados modelos a partir desta segunda-feira, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento.
A marca d’água não aparece como um símbolo ou elemento visível no conteúdo. Segundo a OpenAI, o sistema altera de forma sutil as escolhas de palavras feitas pelo modelo, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção.
A tecnologia, chamada textGrain, fica incorporada ao próprio texto. Por isso, o sinal acompanha o conteúdo quando ele é copiado e colado. A OpenAI afirma que a marca d’água não identifica o usuário e que seus testes não apontaram mudanças significativas no desempenho dos modelos quando o recurso está ativado.
A empresa também divulgou um relatório técnico sobre o funcionamento do sistema. O método utiliza uma chave secreta para organizar as previsões de próximas palavras do modelo. A aplicação repetida dessas alterações permite que um detector procure o padrão no texto e avalie se ele contém uma marca d’água da OpenAI.
Apesar do funcionamento do sistema, a própria OpenAI reconhece que a tecnologia possui limitações. Em um dos testes, a substituição de 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%.
Entre para comentar.