Anthropic quer impedir que empresas escondam qual IA estão usando

A Anthropic está desenvolvendo tecnologia que permite verificar se uma resposta foi realmente produzida pelo modelo de inteligência artificial (IA) que uma empresa afirma utilizar. Batizado de FlashProve, o sistema usa criptografia para criar uma espécie de comprovante matemático da identidade do modelo responsável por determinada saída. A proposta é dar aos usuários uma maneira de confirmar se estão interagindo com a IA anunciada pelo fornecedor, em vez de uma versão diferente ou menos avançada. Segundo a Anthropic, o mecanismo também poderia dificultar tentativas de empresas de substituir secretamente seus modelos por alternativas mais baratas ou apresentar resultados de desempenho que não correspondem à tecnologia utilizada. O projeto foi apresentado em publicação da companhia nesta terça-feira (3). A empresa também disponibilizou uma especificação técnica e partes do código em formato aberto para que outros pesquisadores possam examinar e aprimorar a iniciativa. Como funciona o FlashProve? O sistema utiliza o conceito de “inferência comprovável”, que consiste em gerar uma prova criptográfica de que determinada resposta veio de um modelo específico; A ideia é semelhante às assinaturas digitais usadas em e-mails para confirmar a identidade de quem enviou uma mensagem. Nesse caso, porém, a verificação serviria para identificar qual IA produziu um conteúdo; Para isso, os desenvolvedores de modelos precisariam publicar uma espécie de impressão digital de cada sistema lançado. Posteriormente, essa identificação poderia ser comparada às respostas produzidas pela IA e verificada por meio de mecanismos criptográficos; Um aspecto importante é que essas impressões digitais não revelariam os pesos do modelo — os valores internos que determinam seu funcionamento e comportamento. Empresas, como Anthropic e OpenAI, mantêm essas informações privadas, mas poderiam participar de um sistema de verificação sem abrir mão desse segredo comercial; A tecnologia também foi projetada par...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/11/03/inteligencia-artificial/anthropic-quer-impedir-que-empresas-escondam-qual-ia-estao-usando/