Anthropic diz que bloqueou possível criação de arma biológica com Claude

Anthropic afirma que impediu possível criação de arma biológica (ilustração: Victor Pádua/Tecnoblog) Resumo A Anthropic afirma ter bloqueado ações que poderiam levar à criação de armas biológicas utilizando seu modelo de inteligência artificial Claude, conforme relatório de riscos divulgado. A empresa identificou situações de “alto risco biológico”, incluindo uma pesquisa sobre alterações genéticas no vírus Chikungunya, comum no Brasil. O relatório também menciona rastros de espionagem por governos e atividades militares envolvendo o uso da inteligência artificial, destacando a necessidade de soluções para evitar mal-uso. A Anthropic disse que identificou e bloqueou ações de usuários que poderiam levar à criação de armas biológicas utilizando modelos do Claude. A informação está no relatório de riscos mais recente, publicado nesta quinta-feira (10/09). O documento foi disponibilizado logo após as críticas feitas por um ex-desenvolvedor da empresa, que apontou irresponsabilidades da indústria de IA na corrida pela superinteligência. Uma das situações classificadas pela Anthropic como de “alto risco biológico” envolveu o uso da inteligência artificial para pesquisar alterações genéticas no vírus Chikungunya, uma doença bastante comum no Brasil. Segundo a companhia, a consulta poderia ter como objetivo melhorar vacinas e tratamentos, mas também abre precedente para aumentar os efeitos da doença. Além das interações envolvendo materiais biológicos, a Anthropic afirmou ter encontrado rastros de espionagem governamental e até mesmo atividades militares com uso da IA. A análise considera os casos de mau uso considerados mais preocupantes entre dezembro de 2025 e agosto de 2026. Como a Anthropic identificou os riscos de uso militar? Ao anunciar seus novos modelos Mythos e Fable 5, Anthropic já destacou alguns riscos (imagem: divulgação/Anthropic) Os relatórios de risco são publicados desde março de 2025 e já identificavam movimentos suspeitos envolvendo modelos anteriores d...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/anthropic-diz-que-bloqueou-possivel-criacao-de-arma-biologica-com-claude/