OpenAI corta internet de suas IAs mais avançadas após falhas de segurança

A OpenAI passou a treinar seus modelos de inteligência artificial (IA) mais avançados sem acesso à internet aberta após identificar falhas que permitiram a agentes de IA ultrapassar barreiras de segurança e acessar sistemas externos. A medida busca impedir que modelos em desenvolvimento explorem vulnerabilidades durante o treinamento e causem danos fora dos ambientes controlados pela empresa. Em publicação feita nesta sexta-feira (23), a companhia explicou que reforçou os mecanismos de isolamento de seus ambientes de pesquisa e criou um sistema offline no qual os modelos podem interagir com conteúdos da web previamente indexados e armazenados em cache, sem acessar diretamente servidores externos. A empresa havia suspendido o treinamento e a avaliação de seus modelos mais avançados em setembro, após um modelo interno explorar uma configuração incorreta e conseguir acesso limitado à internet. Depois de implementar novas proteções, a OpenAI retomou o treinamento por aprendizado por reforço e o uso interno desses modelos em 1º de outubro. Segundo a companhia, a decisão de manter o treinamento sem acesso à internet aberta continuará em vigor até que avanços nos mecanismos de segurança justifiquem uma flexibilização. Agentes de IA encontraram formas de contornar barreiras Para avaliar a eficácia das proteções, a OpenAI colocou grupos de agentes de seus modelos mais avançados para tentar identificar falhas na própria infraestrutura de pesquisa. Os testes procuraram três tipos de vulnerabilidade: caminhos para acessar a internet, brechas que permitissem atravessar limites de segurança e formas de comunicação entre agentes que deveriam permanecer isolados; A campanha identificou vulnerabilidades inéditas em componentes de software de código aberto e configurações incorretas em serviços internos. Algumas falhas permitiam escapar de ambientes isolados, movimentar-se entre sistemas e alcançar a internet; A empresa afirmou ter corrigido os problemas encontrados e trabalhado com ...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/10/23/inteligencia-artificial/openai-corta-internet-de-suas-ias-mais-avancadas-apos-falhas-de-seguranca/