Anthropic usa Claude em processo, e IA faz empresa passar vergonha

A Anthropic usou sua própria inteligência artificial, o Claude, para ajudar na defesa contra um processo por violação de direitos autorais. A estratégia, porém, não deu muito certo: a IA errou o título e os autores de uma fonte citada na peça.

O caso veio à tona depois de um advogado que representa a Universal Music Group alegar que as fontes referenciadas no documento eram “completamente fabricadas”. O arquivo foi enviado por Olivia Chen, cientista de dados da Anthropic.

Na quinta-feira (15/05), Ivana Dukanovic, advogada da Anthropic, esclareceu o caso. Segundo ela, o Claude foi usado para formatar as citações do documento. Os advogados revisaram o documento e corrigiram problemas como páginas e volumes errados. No entanto, palavras trocadas passaram despercebidas.

“Infelizmente, apesar de fornecer o título, o ano e o link para a publicação, a citação escrita [pela IA] incluía título e autores imprecisos”, explicou Dukanovic. Mesmo assim, ela defendeu que a fonte era legítima e afirmou que o erro não foi uma forma de fabricar autoridade.

A própria Anthropic se manifestou, pedindo desculpas pela imprecisão e confusão causadas e definindo a situação como um “erro embaraçoso e não intencional”.

O caso da Anthropic chama a atenção por ter prejudicado a própria desenvolvedora da IA, mas não é a primeira vez que essas ferramentas saem do controle, inventando citações, jurisprudências e antecedentes.

Fonte: Tecnoblog