Cybercode
Julia Monteiro
Julia Monteiro
Inteligencia Artificial · · 2 min de leitura ·

Acha que engana? Professor cria marca d’água para detectar IA

Acha que engana? Professor cria marca d’água para detectar IA

O que você precisa saber

Os treinamentos constantes dos modelos de inteligência artificial (IA) têm tornado cada vez mais difícil saber se os textos foram escritos por uma IA ou por humanos. Por isso, um professor da Universidade da Flórida (UF) (EUA) decidiu criar ferramenta que pode ajudar nessa distinção.

Uma marca d’água invisível para Grandes Modelos de Linguagem (LLM, na sigla em inglês) está sendo desenvolvida para detectar conteúdo gerado por IA — mesmo alterado ou parafraseado. O recurso está passando por testes no supercomputador HiPerGator da instituição.

“Se sou um estudante e estou escrevendo minha lição de casa com o ChatGPT, não quero que meu professor detecte isso”, disse Yuheng Bu, Ph.D., professor assistente no Departamento de Engenharia Elétrica e de Computação da Faculdade de Engenharia Herbert Wertheim.

No ano passado, pesquisadores da Universidade de Reading (Reino Unido) fizeram o seguinte teste: criaram perfis falsos de alunos e escreveram suas tarefas usando plataformas básicas geradas por IA para, depois, tentar detectar IA no conteúdo.

“No geral, as submissões de IA beiraram a indetectável, com 94% não sendo detectadas”, observou o estudo, publicado na PLOS. “Nossa taxa de detecção de 6% provavelmente superestima nossa capacidade de detectar o uso de IA no mundo real para trapacear em exames.”

A nova tecnologia foca em dois aspectos principais: manter a qualidade do texto gerado pelo LLM após a aplicação da marca d’água e garantir a robustez do sistema contra várias modificações, permanecendo imperceptível para humanos.

Publicidade