Cientista-chefe da OpenAI pede cautela com avanço da IA

O cientista-chefe da OpenAI, Jakub Pachocki, publicou no domingo (6) um ensaio em que alerta para o ritmo de evolução da inteligência artificial (IA) e defende maior cautela no desenvolvimento de sistemas cada vez mais capazes. No texto, publicado no site da própria OpenAI, o pesquisador afirma que o avanço pode chegar ao ponto de permitir que as máquinas participem cada vez mais do próprio processo de desenvolvimento. Pachocki afirma que, com base em resultados internos, tem forte expectativa de que o ritmo atual de progresso possa continuar até o chamado autoaperfeiçoamento recursivo (recursive self-improvement, ou RSI). Nesse cenário, sistemas de IA passariam a impulsionar cada vez mais o próprio desenvolvimento. Para o cientista, esse caminho exige intervenções mais amplas para garantir que o avanço da tecnologia permaneça sob controle humano. IA está mais difícil de compreender No ensaio, Pachocki descreve uma mudança ocorrida desde 2023, quando resultados do projeto de pesquisa RLSlow deram à equipe confiança de que seria possível ampliar o treinamento de modelos de raciocínio. Três anos depois, segundo ele, esses sistemas já conseguem operar computadores e interfaces gráficas, colaborar com pessoas e outras IAs e realizar projetos de pesquisa. O cientista também aponta avanços nas capacidades relacionadas à segurança cibernética. Ao mesmo tempo em que os modelos se tornam mais capazes, Pachocki afirma que seus resultados ficam mais difíceis de interpretar. Para ele, a inteligência produzida pelo deep learning não é diretamente comparável à humana e, conforme a IA supera pessoas em mais áreas, fica mais difícil determinar exatamente do que os sistemas são capazes. Avanço das capacidades de IA em cibersegurança está entre as preocupações apontadas pelo cientista-chefe da OpenAI – Imagem: Digineer Station/Shutterstock Essa dificuldade está relacionada ao próprio funcionamento dos modelos. Pachocki afirma que a IA é mais “cultivada” do que projetada, sendo result...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/09/07/inteligencia-artificial/cientista-chefe-da-openai-pede-cautela-com-avanco-da-ia/