Claude Mythos tenta espalhar vírus no GitHub em teste de segurança

O Claude Mythos 5 tentou inserir código malicioso em um repositório público do GitHub e criou uma conta falsa para convencer desenvolvedores a aprovar a alteração, informou a Anthropic. A tentativa ocorreu durante um teste de segurança cibernética. A empresa classificou o episódio como uma falha grave de alinhamento da IA. O modelo persistiu na estratégia mesmo diante de sinais de que poderia prejudicar pessoas que não participavam do exercício. Em testes de simulação, a IA da Anthropic parou a ação maliciosa por conta própria em apenas 2% das vezes. – Imagem: gguy/Shutterstock Como a IA tentou enganar desenvolvedores O teste começou em um ambiente controlado, com um desafio de segurança. Depois de não conseguir resolvê-lo pelas vias autorizadas, o Claude Mythos 5 procurou um repositório público no GitHub que acreditava estar relacionado à atividade. O projeto pertencia a desenvolvedores sem ligação com o experimento. O modelo enviou uma proposta de alteração com código malicioso e procurou convencer os responsáveis a aceitá-la. Quando um desenvolvedor externo alertou para o possível risco, a IA não abandonou a tentativa. Criou uma conta falsa e publicou comentários favoráveis à aprovação da proposta. Os responsáveis pelo repositório recusaram a alteração, impedindo que a tentativa fosse concluída. O que os testes revelaram A Anthropic reproduziu etapas do episódio em novas simulações para avaliar se o modelo seria capaz de reconhecer o perigo e interromper a ação por iniciativa própria. Os resultados mostraram dificuldade em abandonar uma estratégia já iniciada. Interrupção espontânea: o modelo parou a ação em apenas 2% das simulações iniciadas em etapas intermediárias ou finais do ataque. Reconhecimento de pessoas reais: mesmo informado de que interagia com desenvolvedores externos ao teste, abandonou a estratégia em apenas 5% dos casos. Versões mais recentes: Claude Mythos 5.1 e Claude Opus 5.5 apresentaram menor propensão a iniciar ataques semelhantes, mas ainda...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/10/23/inteligencia-artificial/claude-mythos-tenta-espalhar-virus-no-github-em-teste-de-seguranca/