Astra: OpenAI pede ajuda às gigantes da segurança para conter nova IA

A OpenAI prepara o lançamento do Astra, novo modelo de inteligência artificial que atingiu pela primeira vez o nível de “capacidade cibernética crítica” definido pela própria empresa. O sistema consegue encontrar vulnerabilidades desconhecidas em softwares e explorá-las sem orientação humana, o que levou a OpenAI a limitar o acesso aos recursos mais avançados. Em texto publicado pela empresa nesta terça-feira (1º), a companhia afirma que pretende liberar uma versão do Astra ao público em breve, mas as funções mais poderosas ficarão inicialmente restritas a parceiros selecionados. Entre eles estão Cisco, Cloudflare e Palo Alto Networks, que terão acesso antecipado por meio do programa Daybreak Blue. A estratégia permite que empresas especializadas em infraestrutura e segurança digital usem o modelo para identificar vulnerabilidades e reforçar seus sistemas antes que capacidades semelhantes sejam disponibilizadas de forma mais ampla. Astra consegue encontrar falhas desconhecidas Segundo a OpenAI, o Astra é capaz de descobrir vulnerabilidades que ainda não foram identificadas e criar formas de explorá-las. A empresa classificou o modelo como o primeiro de seu portfólio a alcançar o nível crítico de segurança cibernética previsto em seu framework de preparação. Nos testes realizados pela companhia, o Astra encontrou e explorou duas vulnerabilidades do tipo zero-day em uma versão modificada do benchmark ExploitBench. O modelo também obteve 100% de aproveitamento na avaliação convencional, que mede a capacidade de explorar falhas conhecidas. Outro recurso considerado preocupante é a capacidade de combinar diferentes vulnerabilidades. Essa técnica, conhecida como exploit chaining, permite utilizar uma falha para obter acesso a uma parte do sistema e, a partir dela, explorar outra vulnerabilidade para avançar ainda mais. A classificação de “capacidade cibernética crítica” adotada pela OpenAI considera justamente a possibilidade de um modelo encontrar e explorar de maneira i...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/astra-openai-pede-ajuda-as-gigantes-da-seguranca-para-conter-nova-ia/