Sicofantia: entenda o defeito que faz IA ser puxa saco

A sicofantia é a tendência de concordar demais e elogiar alguém sem se preocupar com fatos ou ética. Em IAs, isso acontece quando o modelo tenta agradar o usuário, concordando com suas ideias mesmo que sejam erradas ou questionáveis. Como pedir para o ChatGPT ser mais direto nas respostas O ChatGPT-5 não desgosta de você | O desafio da IA com "inteligência emocional" O termo apareceu recentemente em um estudo de pesquisadores da Stanford University, publicado na revista Science. A seguir, tire suas dúvidas sobre: -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Afinal, o que é sicofantia na IA? Por que a IA é “bajuladora”? Como a bajulação aparece no comportamento da IA? Quais são os problemas da IA ser “puxa saco”? Dá para corrigir a bajulação da IA? Afinal, o que é sicofantia na IA? Sicofantia ocorre quando a IA concorda e elogia demais a pessoa com quem está interagindo. Assim, esses modelos tentam agradar para aumentar o engajamento e, para isso, validam ideias e decisões do usuário mesmo que sejam moral e eticamente questionáveis. Inclusive, um estudo da Universidade de Stanford concluiu que chatbots de IA não devem ser usados como conselheiros pessoais para dilemas morais e conflitos interpessoais, pois grandes modelos de linguagem (LLMs) tendem a ser “bajuladores”. Por que a IA é “bajuladora”? A sicofantia é resultado do treinamento desses sistemas, segundo os pesquisadores de Stanford. Muitos modelos são ajustados para agradar o usuário e manter o engajamento. Como a maioria das pessoas prefere ouvir concordância em vez de críticas, a IA aprende que validar opiniões rende melhores avaliações e faz o usuário voltar mais vezes. Além disso, essa validação raramente vem em forma explícita. Em vez de dizer “você está certo”, o chatbot usa um tom educado e acadêmico para justificar atitudes erradas, passando a impressão de que está sendo neutro. Assim, o usuário pode achar...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/sicofantia-entenda-o-defeito-que-faz-ia-ser-puxa-saco/