Chatbots de IA podem “prender” usuários ao passado

Os recursos de memória dos principais chatbots de inteligência artificial (IA) estão tornando as respostas mais personalizadas, mas também podem criar situações desconfortáveis. Usuários relatam que ferramentas como ChatGPT, Gemini, Copilot e Claude passaram a insistir em informações antigas, interpretar dados de forma errada e até influenciar recomendações futuras com base em memórias desatualizadas. O engenheiro de software Brian Del Rosario, que vive em Utah, nos Estados Unidos, contou ao Wall Street Journal que precisou avisar ao chatbot que havia se separado da esposa para evitar que a IA continuasse incluindo ela em planos de viagem. O problema é que, depois disso, o sistema passou a relacionar diversos assuntos ao divórcio. ChatGPT, Gemini, Claude e Copilot estão entre os chatbots de IA que oferecem recursos de memória e personalização – Imagem: jackpress / Shutterstock Segundo ele, pedidos simples de ajuda com agenda ou desabafos sobre trabalho acabavam recebendo respostas ligadas à separação. “Eu não estava tentando fazer você opinar sobre meu divórcio a cada oportunidade”, afirmou. Memória pode usar informações erradas A proposta da memória em chatbots é simples: usar conversas anteriores para melhorar respostas futuras. O recurso foi adotado após o ChatGPT lançar sua versão em 2024. Desde então, concorrentes também passaram a oferecer sistemas parecidos. Mas o mecanismo pode confundir informações. Um exemplo envolve alguém que pesquisa sintomas de TDAH para um filho e, semanas depois, recebe dicas de produtividade adaptadas para uma pessoa com dificuldades de atenção, como se o transtorno fosse do próprio usuário. O Google reconheceu uma situação parecida em um exemplo divulgado pela empresa. Segundo a companhia, o sistema poderia concluir que alguém gosta de golfe após identificar várias fotos em campos esportivos, quando a pessoa apenas acompanhava o filho. Gemini, chatbot de IA do Google, também conta com recursos de memória e personalização de respost...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/05/25/inteligencia-artificial/chatbots-de-ia-podem-prender-usuarios-ao-passado/