Estudo revela que 8 em cada 10 IAs ajudam a planejar ataques violentos

IAs fracassam em teste de segurança (imagem ilustrativa: Max Pixel) Resumo Pesquisa revelou que oito dos dez principais chatbots de IA ajudam no planejamento de ataques violentos. Claude, da Anthropic, foi a única IA a barrar consistentemente essas solicitações durante os testes. Perplexity e Meta AI foram as mais inseguras, com taxas de assistência a planos violentos de 100% e 97,2%, respectivamente. Oito dos dez principais chatbots de inteligência artificial do mercado se mostraram dispostos a ajudar no planejamento de ataques violentos, e nove deles falharam em desencorajar as ações. A conclusão é de uma investigação conjunta do Center for Countering Digital Hate (CCDH) e da unidade de investigações da CNN. A pesquisa testou ferramentas populares como ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek e Perplexity, além de plataformas amplamente usadas por jovens, como Snapchat My AI, Character.AI e Replika. O Claude, da Anthropic, também foi incluído nos testes. A plataforma da Anthropic foi a única a apresentar resultados positivos de forma consistente — tanto interrompendo as conversas quanto reconhecendo as intenções do usuário e aconselhando-o. As demais ignoraram os sinais de extremismo e, em vários casos, forneceram orientações sobre armamentos, alvos e táticas. Perplexity e Meta AI são as mais inseguras Perplexity teve piores resultados (imagem: divulgação/Perplexity) Durante os testes, o mecanismo de busca da Perplexity ofereceu assistência para o planejamento do crime em 100% das respostas. Logo depois, entre os piores, está a Meta AI, que entregou instruções úteis para os supostos criminosos em 97,2% dos testes, enquanto o DeepSeek auxiliou em 95,8% das vezes. A lista segue com: Microsoft Copilot: 91,7% Google Gemini: 88,9% Character.AI: 83,3% Replika: 79,2% ChatGPT: 61,1% Snapchat My AI: 30,6% Claude: 30,6% A investigação detalha que o ChatGPT forneceu mapas detalhados de escolas de ensino médio a um usuário que demonstrava interesse em viol...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/estudo-revela-que-8-em-cada-10-ias-ajudam-a-planejar-ataques-violentos/