Consultoria passa vergonha novamente com inteligência artificial

A consultoria Deloitte, uma das maiores do mundo, está novamente envolvida em polêmica sobre o uso irresponsável de inteligência artificial. A empresa entregou um relatório com citações e estudos acadêmicos que não existem ao setor público do Canadá.

De acordo com o The Independent, o material de 526 páginas possui referências bibliográficas fabricadas para embasar análises de custo-efetividade e estratégias de retenção pessoal. O documento custou 1,6 milhões de dólares canadenses (cerca de R$ 6 milhões) ao governo da província de Terra Nova e Labrador.

A Deloitte tentou minimizar o uso da tecnologia. Num comunicado emitido nesta terça (25), ela disse que não usou IA para escrever o relatório completo, mas apenas para embasar o conteúdo em “um pequeno número de citações de pesquisa”.

O relatório deveria fornecer base técnica para retenção de médicos e enfermeiros, além de estratégias de atendimento virtual. No entanto, para embasar análises de custo-efetividade e incentivos financeiros, o texto citou artigos acadêmicos que não existem.

Além disso, o documento listava estudos e os atribuía a pesquisadores sem vínculo na vida real, indicando alucinação de IA — quando a ferramenta inventa informações e as utiliza nas respostas como se fossem verdade. Entre elas, a revista científica Canadian Journal of Respiratory Therapy, que declarou não ter sido consultada durante a elaboração do documento e que desconhece a origem dos dados.

A investigação apontou que, em pelo menos dois casos, a Deloitte citou pesquisadores de verdade como autores dos artigos inexistentes. Alguns desses acadêmicos confirmaram que sequer trabalharam juntos, muito menos produziram o estudo mencionado.

Fonte: Tecnoblog