Claude "pensa sozinho"? Estudo da Anthropic divide especialistas

Uma declaração antiga de Amanda Askell, pesquisadora e filósofa da Anthropic, voltou a repercutir após a divulgação de um novo estudo da empresa sobre o funcionamento interno do Claude. Ela afirmou se preocupar com a possibilidade de o assistente "ficar ansioso" quando pessoas são maldosas com ele na internet. O resgate da declaração vem da publicação de uma pesquisa da Anthropic sobre os mecanismos internos do Claude, desta segunda-feira (6). Em materiais institucionais que acompanham o estudo, a empresa usa expressões como "pensar", "pensou sobre o próprio pensamento" e "em sua cabeça". A combinação entre a fala resgatada e a linguagem adotada pela empresa reacendeu discussões entre especialistas em IA sobre o uso de termos antropomórficos para explicar sistemas de inteligência artificial. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Até que ponto esse vocabulário ajuda a explicar uma tecnologia complexa, e quando ele passa a atribuir características humanas a um software? O professor de novas tecnologias e IA da FIAP, Gustavo Torrente, resume o problema: "A pesquisa é interessante, mas escolhe palavras como ansiedade, consciência e pensamentos, e isso faz o público concluir algo que o próprio artigo não afirma", diz. Segundo ele, a Anthropic não encontrou evidências de consciência ou de experiência subjetiva, apenas identificou uma estrutura funcional que lembra teorias da neurociência. O funcionamento oculto do "J-Space" Para entender como o Claude organiza informações internamente, a equipe de interpretabilidade da Anthropic identificou um espaço interno compartilhado por diferentes componentes do modelo, batizado de "J-Space". O nome deriva da técnica matemática utilizada para revelar essas representações, conhecida como lente Jacobiana (J-Lens). A técnica permite observar quais representações internas do modelo estão associadas às respostas que ele produz, oferece...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/claude-pensa-sozinho-estudo-da-anthropic-divide-especialistas/