IA da OpenAI descobre vulnerabilidades sozinha (ilustração: Vitor Pádua/Tecnoblog) Resumo OpenAI desenvolveu o GPT-Red, um modelo de IA projetado para simular ataques contra grandes modelos de linguagem. O objetivo é identificar vulnerabilidades e reforçar a segurança dos modelos de IA da própria empresa. Ferramenta será usada exclusivamente pela OpenAI para proteger sua infraestrutura e não será liberada para clientes. A OpenAI revelou ontem (15/07) o GPT-Red, um novo modelo de IA criado com um propósito inusitado: atacar e encontrar vulnerabilidades nos próprios sistemas da empresa. A ferramenta simplifica os testes de segurança para blindar as novas gerações de modelos de linguagem contra ameaças antes de chegarem ao mercado. A desenvolvedora destacou o avanço rápido na capacidade de suas tecnologias e a necessidade dessa nova abordagem defensiva, afirmando que “a simulação de ataques cibernéticos é essencial”. O foco principal do GPT-Red é combater a injeção de comandos. Na prática, são textos criados para “enganar” uma IA, forçando o sistema a contornar suas regras de segurança. Como os assistentes estão cada vez mais integrados a arquivos locais, navegadores e aplicativos de terceiros, uma instrução perigosa pode ser camuflada no meio de um e-mail comum ou em uma página da web, agindo em segundo plano, sem que o usuário perceba — um tipo de invasão que está em alta no setor de tecnologia. Introducing GPT-RedAn internal automated red teamer on a mission to find our models’ prompt injection vulnerabilities at scale, helping us build stronger defenses before wider deployment.https://t.co/GxnmxxcpSk— OpenAI (@OpenAI) July 15, 2026 Como o GPT-Red funciona? O modelo atua como se fosse um hacker humano. Ele envia um comando inicial para a inteligência artificial que está sendo testada, avalia a resposta gerada e ajusta as mensagens seguintes sozinho. Esse ciclo se repete até a ferramenta atingir um objetivo pré-determinado, como forçar o vazamento de dados confidenci...
Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/openai-treinou-ia-para-atacar-outras-inteligencias-artificiais/
Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/openai-treinou-ia-para-atacar-outras-inteligencias-artificiais/