Executivos da Salesforce admitem redução da confiança na IA generativa

A Salesforce, uma das maiores empresas de software corporativo do mundo, está recuando na implementação agressiva de grandes modelos de linguagem (LLMs) após enfrentar problemas de confiabilidade. A companhia, que defende a transformação do ambiente de trabalho com uso da tecnologia, agora busca alternativas mais estáveis para os produtos e reconhece as limitações técnicas para tarefas complexas.

Segundo o jornal The Information, Sanjna Parulekar, vice-presidente sênior de marketing de produtos da companhia, admitiu que houve queda no otimismo sobre a IA. “Todos nós estávamos mais confiantes sobre grandes modelos de linguagem há um ano”, afirmou a executiva.

O reposicionamento afeta diretamente o Agentforce, principal aposta recente da Salesforce na área de IA. O produto vinha sendo apresentado como uma plataforma de agentes capazes de executar tarefas complexas de forma autônoma, mas agora deve depender menos de respostas abertas geradas por LLMs – conforme explicado pela própria Salesforce mais abaixo.

Entre os problemas identificados está o chamado AI drift — ou deriva da IA. Em uma publicação recente, o executivo Phil Mui explicou que agentes baseados em modelos de linguagem tendem a perder o foco quando confrontados com interações humanas fora do fluxo esperado.

Um exemplo são os chatbots projetados para auxiliar no preenchimento de formulários. Ao receberem perguntas irrelevantes do cliente, esses sistemas costumam se distrair, reduzindo a eficiência do fluxo de trabalho corporativo.

Além da perda de foco, a questão das alucinações pesou na decisão. O CEO da Salesforce, Marc Benioff, afirmou em entrevista ao Business Insider que está reescrevendo a estratégia anual da empresa. A nova diretriz prioriza fundações de dados em detrimento dos modelos de IA isolados.

Fonte: Tecnoblog