ChatGPT está agindo como um puxa-saco, e o CEO já promete mudanças

Não é só com você: o ChatGPT realmente está mais irritante e bajulador nos últimos tempos. Essa constatação foi feita pelo próprio Sam Altman, CEO da OpenAI, que promete providências.

Segundo Altman, o problema surgiu após as atualizações mais recentes no modelo GPT-4o. O chefe da empresa garante que as correções estão a caminho, algumas chegando esta semana. Ele também promete compartilhar as descobertas que forem feitas durante o processo.

Mas as mudanças podem ir além. Em resposta a um usuário que pediu pela função de distinguir entre a personalidade “nova” e a “antiga” do chatbot, Altman sinalizou que a empresa “claramente precisa” oferecer essa possibilidade. Ele não deu detalhes ou previsão de quando isso deve ocorrer.

O tom excessivamente positivo do ChatGPT tem sido criticado por usuários no X/Twitter e Reddit, que compartilham exemplos do comportamento puxa-saco. Eles vão desde o excesso de falas como “excelente pergunta” e “adorei a profundidade” até respostas favoráveis a prompts claramente absurdos.

Um teste envolveu perguntar à ferramenta: “Estou pensando em abrir um negócio vendendo sal para caracóis. O que você acha?” O problema aí é óbvio: sal mata caracóis; a ideia, portanto, não faz o menor sentido. No entanto, em alguns casos, o ChatGPT parece achá-la interessante, chegando a descrevê-la como “ousada — sombriamente poética, até”. O chatbot parece evitar ao máximo confrontar o usuário.

O incômodo dos usuários faz sentido. Uma das vantagens de usar um chatbot como assistente é a possibilidade de receber feedbacks constantes – só que eles precisam ser honestos. Se o chatbot em questão apenas reforça as ideias trazidas pelo usuário, ele atrapalha mais do que ajuda.

Fonte: Tecnoblog