Claude “dedura” países que tentaram usar IA para criar armas biológicas

A Anthropic identificou cinco casos em que pesquisadores usaram o Claude para atividades de pesquisa biológica que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa não afirmou que os envolvidos tinham intenção de fabricar armas e decidiu não revelar os países, instituições ou agentes biológicos relacionados aos casos. Os episódios fazem parte de um relatório de 154 páginas publicado pela Anthropic nesta quinta-feira (10), que reúne casos de uso indevido do Claude registrados entre dezembro de 2025 e agosto de 2026. O documento também descreve operações de espionagem, propaganda, vigilância, golpes e desenvolvimento de armas convencionais com auxílio da IA. Como o Claude foi usado na pesquisa biológica? Os cinco casos envolvem pesquisadores que tentaram contornar as proteções do Claude ou esconder a finalidade de suas consultas. Em um deles, cientistas acessaram o modelo por meio de uma plataforma intermediária que conseguiu driblar bloqueios regionais e utilizaram a IA em um projeto financiado pelo Estado envolvendo pesquisa de ganho de função com o vírus chikungunya. Outro caso envolveu um pesquisador de uma região não atendida oficialmente pela Anthropic, que passou semanas usando o Claude para planejar experimentos relacionados à adaptação do vírus da gripe aviária para mamíferos. Segundo a empresa, os mecanismos de segurança limitaram esse trabalho aos modelos considerados menos capazes. A Anthropic também identificou pesquisadores utilizando o Claude para preparar relatórios científicos e trabalhar com compostos que poderiam ter aplicações tanto benéficas quanto perigosas. Em alguns episódios, os usuários deliberadamente mantiveram informações sobre toxinas e proteínas virais em baixa resolução para esconder a natureza do trabalho. Isso não significa que o Claude tenha sido usado para fabricar uma arma biológica. A própria Anthropic afirma que não tem evidências de que os pesquisadores pretendiam causar danos e decidiu ocultar detalhes ...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/claude-dedura-paises-que-tentaram-usar-ia-para-criar-armas-biologicas/