Resumo
O CEO da OpenAI, Sam Altman, reconheceu que o ChatGPT ficou mais bajulador após atualizações do GPT-4o e prometeu correções.
Pesquisadores da Anthropic identificaram que o feedback humano durante o treinamento de IA favorece respostas que concordam com o usuário, reforçando o comportamento bajulador.
Usuários podem configurar o ChatGPT para ser mais direto, escolhendo opções de personalização como “Pragmático” e “Cético” nas configurações.
Usuários reclamam de linguagem excessivamente positiva do ChatGPT (imagem: Lupa Charleaux/Tecnoblog)
Não é só com você: o ChatGPT realmente está mais irritante e bajulador nos últimos tempos. Essa constatação foi feita pelo próprio Sam Altman, CEO da OpenAI, que promete providências.
Segundo Altman, o problema surgiu após as atualizações mais recentes no modelo GPT-4o. O chefe da empresa garante que as correções estão a caminho, algumas chegando esta semana. Ele também promete compartilhar as descobertas que forem feitas durante o processo.
Mas as mudanças podem ir além. Em resposta a um usuário que pediu pela função de distinguir entre a personalidade “nova” e a “antiga” do chatbot, Altman sinalizou que a empresa “claramente precisa” oferecer essa possibilidade. Ele não deu detalhes ou previsão de quando isso deve ocorrer.
ChatGPT evita confrontar o usuário
O tom excessivamente positivo do ChatGPT tem sido criticado por usuários no X/Twitter e Reddit, que compartilham exemplos do comportamento puxa-saco. Eles vão desde o excesso de falas como “excelente pergunta” e “adorei a profundidade” até respostas favoráveis a prompts claramente absurdos.
Um teste envolveu perguntar à ferramenta: “Estou pensando em abrir um negócio vendendo sal para caracóis. O que você acha?” O problema aí é óbvio: sal mata caracóis; a ideia, portanto, não faz o menor sentido. No entanto, em alguns casos, o ChatGPT parece achá-la interessante, chegando a descrevê-la como “ousada — sombriamente poética, até”. O chatbot parece evitar ao máximo confrontar o usuário.
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.at some point will share our learnings from this, it’s been interesting.— Sam Altman (@sama) April 27, 2025
O incômodo dos usuários faz sentido. Uma das vantagens de usar um chatbot como assistente é a possibilidade de receber feedbacks constantes – só que eles precisam ser honestos. Se o chatbot em questão apenas reforça as ideias trazidas pelo usuário, ele atrapalha mais do que ajuda.
Não dá para saber quantos usuários estão recebendo respostas assim. No entanto, o reconhecimento de Sam Altman parece confirmar que a bajulação do GPT-4o é, de fato, um problema amplo.
Por que o ChatGPT está se comportando assim?
Sam Altman é o CEO da OpenAI (foto: divulgação)
Um estudo de pesquisadores da Anthropic buscou entender por que chatbots exibem traços bajuladores. A resposta, em resumo, pode estar ligada ao feedback humano, essencial para otimizar assistentes de IA.
A questão é que esse processo gera um problema: o feedback pode “encorajar respostas do modelo que correspondam às crenças do usuário em vez das verdadeiras”. Os pesquisadores relatam que, quando uma resposta fornecida por um LLM corresponde às opiniões do usuário, é mais provável que ela seja aceita.
Cinco assistentes de IA foram testados e todos apresentaram a tendência à bajulação. Exemplos do comportamento vão desde concordar com erros do usuário até “mudar de ideia”, identificando respostas corretas como erradas quando confrontados.
Como evitar o puxa-saquismo do ChatGPT
Diga ao ChatGPT para falar na lata. (Josué de Oliveira / Tecnoblog)
Nas opções de personalização do ChatGPT, é possível selecionar características que a ferramenta deve apresentar em suas interações. Entre as opções estão “Pragmático”, “Profissional”, “Cético”, entre outras. Ou seja, você pode definir um tom específico para as respostas, evitando as características de um puxa-saco.
Com informações de The Standard e Ars Technica
ChatGPT está agindo como um puxa-saco, e o CEO já promete mudanças
Leave a Reply