Relatório sobre IA tinha erros cometidos por IA

A consultoria holandesa KPMG retirou de circulação um relatório sobre inteligência artificial após a descoberta de que o próprio documento continha alucinações geradas por IA. O estudo sobre os benefícios da tecnologia apresentava exemplos que nunca existiram.

O relatório, intitulado “Redefinindo a excelência na era da IA agêntica”, analisava a adoção da IA por empresas ao redor do mundo. No entanto, o documento dizia que organizações como o banco suíço UBS, o Serviço Nacional de Saúde do Reino Unido (NHS) e as Ferrovias Federais Suíças (SBB) já aplicavam serviços de IA na sua rotina.

Segundo o Financial Times, as informações eram totalmente falsas ou exageradas. Em um dos exemplos, a KPMG afirmava que o UBS utilizava agentes de IA para consultoria de investimentos, gestão de riscos e monitoramento regulatório. O banco afirmou que a descrição era “factualmente incorreta”.

Em outros trechos, de acordo com o jornal britânico, as alegações pareciam ter sido construídas a partir de comunicados reais, mas citavam funcionalidades e aplicações de IA que nunca foram anunciadas por essas organizações.

As inconsistências foram identificadas pela GPTZero, empresa especializada em detecção de conteúdo gerado por inteligência artificial. Segundo os pesquisadores, os exemplos apresentavam características típicas de alucinações de modelos de IA.

Ao Financial Times, a KPMG informou que removeu o estudo de seus sites enquanto investiga as circunstâncias da publicação.

Fonte: Tecnoblog