Anthropic explica como o Claude vai identificar textos gerados por IA

A Anthropic explicou como funcionará a marca d’água invisível para textos criados pelo Claude. A tecnologia tem como base o SynthID-Text, desenvolvido pelo Google DeepMind, e será inserido durante a geração das respostas.

A proposta é criar uma forma de verificação para textos gerados pela própria plataforma, seguindo as regras da Lei de Inteligência Artificial da União Europeia. O regulamento europeu começou a valer em 2 de agosto, determinando a adoção de soluções para que conteúdos criados em ferramentas de IA sejam detectáveis. Assim, tecnologias semelhantes devem começar a aparecer em outros modelos.

O SynthID já é conhecido como uma tecnologia de marca d’água para vídeo, imagem e áudio, fazendo pequenas alterações imperceptíveis para humanos. Enquanto imagens e vídeos têm mudanças nos pixeis, o SynthID-Text altera o padrão das palavras escolhidas pelo modelo.

Em comunicado, a Anthropic afirma que a identificação é criada na sequência de palavras geradas pelo assistente. Modelos de linguagem produzem texto de maneira sequencial, calculando a probabilidade estatística de cada palavra a ser exibida com base no contexto anterior. A marca d’água atua neste momento. Na prática, funciona assim:

De acordo com a empresa, isso não significa que o Claude passará a forçar palavras estranhas no meio do texto. Testes internos e resultados do estudo do SynthID-Text, feito pelo Google DeepMind, teriam indicado que não há impacto da técnica no conteúdo final.

Como a marca será aplicada no padrão de escrita do texto, edições simples podem interferir no resultado da análise e mudanças completas na estrutura do texto tendem a remover a marcação, segundo a Anthropic. Há mais situações em que a análise pode falhar:

Fonte: Tecnoblog