IAs do Google e X confundem pesquisas com comandos de chat

IAs de grandes plataformas estão se confundindo e fugindo de suas funções originais. Nas últimas semanas, ferramentas integradas ao Google e ao X passaram a responder como chatbots comuns em diversas situações, mesmo quando deveriam apenas resumir resultados ou traduzir publicações.

O problema repercutiu após usuários notarem esse comportamento nos Resumos de IA na busca do Google. Em alguns casos, o Gemini parece confundir o texto que deveria processar com uma ordem do usuário.

Algo semelhante ocorre também com o Grok, na plataforma de Elon Musk, que passou a traduzir posts nativamente em abril. Nas ocasiões, as ferramentas abandonam a função original e passam a “conversar” com o usuário.

Quem costuma pesquisar palavras soltas no Google sabe que o buscador normalmente exibe uma explicação sobre o significado do termo, com base em dicionários online. Mas em ocasiões nas quais a palavra tem tom imperativo, a plataforma começou a interpretá-la como um comando.

A falha começou a viralizar entre usuários de língua inglesa, que perceberam que a busca por termos como “disregard” (desconsiderar, em português) fazia o Google responder como um assistente. “Entendi. Se precisar de alguma coisa ou tiver uma nova pergunta, me diga!”, respondia a IA.

Depois, outros usuários identificaram o mesmo comportamento em palavras como “ignore” ou “skip”, inclusive quando feitas em português. Por aqui, outros comandos como “lembrar” ou “esquecer” também faziam o buscador se atrapalhar.

Fonte: Tecnoblog