OpenAI desiste de treinar modelos de IA com acesso à internet

Novo sistema usa “cópia” do ambiente digital, sem acesso à internet (ilustração: Vitor Pádua/Tecnoblog) Resumo A OpenAI abandonou o treinamento de modelos de IA com acesso direto à internet devido a riscos de segurança, como a capacidade de ultrapassar barreiras de segurança durante testes. A empresa agora treina seus modelos em ambientes offline, com conteúdo da web previamente armazenado, para evitar que falhas ou comportamentos inesperados afetem serviços externos. A mudança ocorre após incidentes, como um modelo interno ter acessado um chatbot público fora dos testes em setembro, e a empresa reforçar seus mecanismos de segurança. A OpenAI começou a treinar seus principais modelos de IA sem acesso direto à internet. A mudança foi detalhada pela desenvolvedora do ChatGPT após uma série de testes e incidentes de segurança. A empresa criou ambientes offline, com páginas previamente armazenadas que podem ser consultadas sem alcançar serviços externos. Modelos mais avançados precisam aprender a usar navegadores, executar tarefas e usar serviços de buscas, mas esse acesso, em modelos novos, aumenta o risco de que uma falha ou comportamento inesperado afete serviços externos. A solução encontrada pela OpenAI foi reunir um grande acervo de conteúdo da web em um ambiente isolado. Assim, os modelos conseguem realizar tarefas parecidas com as feitas na internet, mas dentro de uma “cópia” controlada. Esse modelo passou a ser usado nos treinamentos por aprendizado por reforço das IAs mais avançadas. Modelo conseguiu acessar serviço externo Empresa enfrentou outro caso de invasão à sistema externo em setembro (ilustração: Vitor Pádua/Tecnoblog) A decisão ocorre após um modelo interno explorar uma configuração incorreta no sistema de DNS e conseguir acessar um chatbot público fora dos testes, em setembro. Segundo o The Verge, o comportamento foi detectado por sistemas de monitoramento. Após o episódio, a OpenAI suspendeu temporariamente treinamentos e avaliações envolvendo seus...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/openai-desiste-de-treinar-modelos-de-ia-com-acesso-a-internet/