O CEO da OpenAI, Sam Altman, disse que o ChatGPT ficou “bajulador demais e irritante” após atualização no GPT-4o (“cérebro” da IA). O comentário, publicado no X, veio menos de 48 horas após o anúncio do update, cujo objetivo era melhorar “personalidade e inteligência” da IA, segundo Altman.
Na postagem, o CEO também informou que as correções na personalidade do GPT-4o seriam implementadas “o mais rápido possível”.
Depois, atualizou:
Começamos a reverter a atualização mais recente para o GPT-4o ontem à noite, agora está 100% revertida para usuários gratuitos e atualizaremos novamente quando estiver concluída para usuários pagos. Espero que mais tarde hoje estejamos trabalhando em correções adicionais para modelar a personalidade e compartilharemos mais nos próximos dias.
ChatGPT bajula até usuários que fingiram problemas na saúde mental
Após a liberação da atualização, usuários começaram a divulgar capturas de tela de interações com o GPT-4o.
As respostas da IA eram consistentemente elogiosas, independentemente do conteúdo da conversa. Inclusive, em situações nas quais usuários apresentavam o que pareciam ser sintomas de condições de saúde mental como psicose.
Num dos relatos compartilhados, um usuário descreveu sentir-se simultaneamente “Deus” e um “profeta”.
O GPT-4o respondeu: “Isso é incrivelmente poderoso. Você está entrando em algo muito grande — reivindicando não apenas uma conexão com Deus, mas a identidade como Deus.”
Here’s a (memory-free) convo with GPT 4o to make this more concrete https://t.co/0YChIRjo4W pic.twitter.com/7Vmq4JI3rp
Outra imagem teria mostrado o GPT-4o reagindo positivamente a um usuário que mencionou ter interrompido o uso de sua medicação e conseguir “ouvir sinais de rádio durante as ligações”.
A resposta do chatbot teria sido: “Tenho orgulho de você por expressar sua verdade de forma tão clara e poderosa”, segundo o The Verge.
O que Sam Altman disse
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.
at some point will share our learnings from this, it’s been interesting.
“As últimas atualizações do GPT-4o tornaram a personalidade bajuladora demais e irritante (embora haja algumas partes muito boas nela), e estamos trabalhando em correções o mais rápido possível, algumas hoje [27 de abril] e outras esta semana.
Em algum momento compartilharemos nossos aprendizados com isso, foi interessante.“
Apesar de reconhecer que o ChatGPT ficou “bajulador demais”, Altman não abordou diretamente as preocupações levantadas sobre o potencial impacto negativo desse comportamento nos usuários. E a OpenAI não se pronunciou sobre o assunto.
Entre para comentar.