Cybercode
tecnoblog
tecnoblog
Tecnologia · · 2 min de leitura ·

IA não consegue fazer mais do que 30% do trabalho humano, diz estudo

IA não consegue fazer mais do que 30% do trabalho humano, diz estudo
Agentes de IA não estão prontos para substituir trabalhadores (ilustração via IA: Thássius Veloso/Tecnoblog)

Uma nova pesquisa revelou que agentes de inteligência artificial ainda não conseguem realizar o trabalho de profissionais humanos como consultores de gestão, analistas de investimentos e advogados corporativos. Os modelos disponíveis atualmente não acertam mais do que 30% das tarefas.

O estudo foi realizado pela empresa de recrutamento de profissionais e treinamento de dados Mercor. Seu trabalho resultou em um novo benchmark, chamado AI Productivity Index for Agents, ou APEX-Agents, para simplificar.

Nos testes envolvendo o trabalho de um analista de investimentos, o melhor resultado foi do GPT-5.2, da OpenAI, com 27,3% de acerto. Esse modelo também lidera o ranking de consultoria de gestão, com 22,7% de respostas corretas. E nos testes com tarefas de advogados, o Gemini 3 Flash, do Google, fica no topo, com 25,9%.

Três gráficos de barras horizontais comparam o desempenho de modelos de IA. No teste "Investment banking analyst (Pass@1)", os líderes são "GPT-5.2 (High)" e "GPT-5 (High)" com 27,3%, seguidos por "Gemini 3 Flash (High)" (26,7%), "Claude Opus 4.5 (High)" (21,6%), "Gemini 3 Pro (High)" (18,8%), "Grok 4" (17,0%), "GPT-OSS-120B (High)" (2,7%) e "Kimi K2 Thinking" (1,2%). Em "Management consultant (Pass@1)": "GPT-5.2 (High)" (22,7%), "Gemini 3 Flash (High)" (19,3%), "Claude Opus 4.5 (High)" (13,2%), "Gemini 3 Pro (High)" (12,4%), "GPT-5 (High)" (12,3%), "Grok 4" (12,0%), "GPT-OSS-120B (High)" (3,5%) e "Kimi K2 Thinking" (2,9%). Em "Corporate lawyer (Pass@1)": "Gemini 3 Flash (High)" (25,9%), "Gemini 3 Pro (High)" (23,9%), "Claude Opus 4.5 (High)" (20,2%), "GPT-5.2 (High)" (18,9%), "Grok 4" (16,5%), "GPT-5 (High)" (15,3%), "Kimi K2 Thinking" (8,0%) e "GPT-OSS-120B (High)" (7,8%).
Nenhum modelo alcançou 30% em qualquer uma das três tarefas apresentadas (imagem: reprodução)

Uma das diferenças do APEX-Agents para outros benchmarks é que o teste envolve prompts enviados por profissionais de verdade — e, em grande parte dos casos, os agentes de IA estão trazendo respostas erradas, ou mesmo não trazendo nenhuma resposta.

“Uma das grandes mudanças desse benchmark é que nós construímos um ambiente completo, modelado de acordo com serviços profissionais”, explica Brendan Foody, CEO da Mercor e um dos responsáveis pelo estudo.

Essa escolha torna as tarefas muito mais complexas do que as de outros testes, e é aí que mora o problema: os agentes tropeçam na hora de reunir informações que estão espalhadas em diferentes domínios. “Nós trabalhamos sem que alguém nos dê todo o contexto em um único lugar. Na vida real, você opera com o Slack, o Google Drive e todas essas ferramentas”, explica Foody.

Fonte: Tecnoblog

Publicidade