Anthropic revela o que acontece dentro da IA antes de ela responder

A empresa de inteligência artificial (IA) Anthropic desenvolveu uma técnica que lhe deu a visão mais clara até agora sobre o que realmente acontece dentro dos grandes modelos de linguagem (LLMs, na sigla em inglês) enquanto respondem a perguntas ou executam tarefas. O que descobriram varia do trivial ao perturbador. Pesquisadores da empresa criaram uma ferramenta chamada lente Jacobiana (ou J-lens) e a utilizaram para revelar uma área oculta, que batizaram de J-space, dentro do Claude Opus 4.6, uma versão do principal LLM da Anthropic lançada em fevereiro. O que é o J-space O J-space contém palavras individuais relacionadas às palavras e frases que o modelo tem maior probabilidade de produzir em uma resposta no futuro próximo; Se o Claude fosse uma pessoa, poderíamos dizer que essas palavras ocultas revelam o que está em sua mente antes de ele realmente falar; A Anthropic descobriu que o que um LLM realmente faz muitas vezes pode ser diferente do que ele afirma estar fazendo. A empresa alega que monitorar as palavras que surgem no J-space oferece uma nova maneira de entender e controlar seus modelos; Os resultados foram compartilhados em um artigo publicado no site da empresa nesta semana; A Anthropic também se associou à Neuronpedia, uma plataforma de código aberto que permite explorar o interior dos LLMs, para criar uma demonstração prática que qualquer pessoa pode testar; “É um trabalho muito bom e interessante”, afirma, ao MIT Technology Review, Tom McGrath, cientista-chefe e cofundador da Goodfire, uma startup que também desenvolve ferramentas para entender e controlar LLMs. Anthropic indo mais fundo Nos últimos dois anos, a Anthropic tem avançado em um campo de pesquisa conhecido como interpretabilidade mecanicista, que envolve investigar o funcionamento interno dos LLMs para entender como operam. A nova técnica se baseia em trabalhos anteriores da Anthropic e de outros para expor um nível mais profundo dentro dos LLMs que os pesquisadores ainda não haviam vis...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/07/10/inteligencia-artificial/anthropic-revela-o-que-acontece-dentro-da-ia-antes-de-ela-responder/