‘O mundo está certo em ter medo disso’, declara Sam Altman sobre o avanço sem freios da IA

Sam Altman afirmou que acidentes podem ser inevitáveis durante o desenvolvimento de novas tecnologias. Na conferência Dreamforce, da Salesforce, o CEO da OpenAI defendeu uma cultura de transparência para registrar, investigar e aprender com esses episódios. Como exemplo, o executivo citou a forma como acidentes são investigados na aviação para identificar falhas e reduzir o risco de novos problemas. Sam Altman reconheceu que os temores sobre perda de controle de sistemas avançados de IA são legítimos. – Imagem: FotoField/Shutterstock O que a IA pode aprender com a aviação Altman citou a Administração Federal de Aviação dos Estados Unidos (FAA) e o Conselho Nacional de Segurança nos Transportes (NTSB) como exemplos para a indústria de inteligência artificial. Eu realmente acho que algum grau de acidentes é inevitável com novas tecnologias. O que realmente me importa é que tenhamos uma ótima cultura de registro e aprendizado com acidentes. Sam Altman, CEO da OpenAI, durante evento. Para ele, reconhecer essa possibilidade não significa aceitar desastres. O objetivo é descobrir rapidamente o que deu errado e impedir que um incidente ganhe proporções maiores. Entre as práticas defendidas estão: registrar acidentes e incidentes; investigar as causas; aprender com cada ocorrência; evitar que falhas se agravem. O receio de perder o controle A declaração ocorre enquanto aumentam as discussões sobre sistemas de IA cada vez mais autônomos. Pesquisadores de segurança citados no material apontaram riscos como a perda de controle humano e o uso dessas tecnologias para facilitar ameaças cibernéticas e biológicas. Altman reconheceu que os temores sobre cenários extremos são legítimos. “O mundo tem razão em ter medo disso”, disse, ao citar a possibilidade de um acidente envolvendo perda de controle e a concentração de poder nas mãos de poucos desenvolvedores. Especialistas temem que sistemas avançados possam facilitar ataques cibernéticos e perder o controle humano. – Imagem: VRVIRU...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/09/16/inteligencia-artificial/o-mundo-esta-certo-em-ter-medo-disso-declara-sam-altman-sobre-o-avanco-sem-freios-da-ia/