Chance de IA levar humanos a extinção supera 10%, diz especialista de startup

A inteligência artificial teria mais de 10% de chance de “matar todos os humanos” até o fim da década, segundo Evan Hubinger, líder de teste de alinhamento da Anthropic. O alerta surgiu poucas horas depois de Jacob Coxon, pesquisador da empresa, anunciar sua saída e criticar a corrida dos laboratórios por sistemas cada vez mais avançados. O episódio expõe uma preocupação que ganhou força entre pesquisadores envolvidos diretamente no desenvolvimento da tecnologia: o risco de sistemas avançados escaparem ao controle humano. Anthropic e OpenAI continuam trabalhando no desenvolvimento de modelos cada vez mais capazes, enquanto levantam grandes quantias de dinheiro e se aproximam de possíveis ofertas públicas de ações. A possibilidade de uma superinteligência que se aprimora sozinha está no centro do alerta feito por pesquisadores da Anthropic. – Imagem: Infinite Creations/iStock Pesquisador deixa a Anthropic Como o Olhar Digital comentou, Coxon anunciou sua saída da Anthropic na terça-feira. Em uma publicação no X, afirmou que a Anthropic e a OpenAI não estão agindo de maneira responsável diante dos riscos envolvidos no avanço da inteligência artificial. “Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu. O pesquisador se referia à possibilidade de sistemas melhorarem suas próprias capacidades sem muita intervenção humana. O chamado autoaperfeiçoamento recursivo ainda não é possível, mas os laboratórios de IA trabalham para alcançar esse objetivo. Coxon também afirmou que pessoas envolvidas na construção de sistemas de IA acreditam seriamente que a tecnologia poderia matar toda a humanidade até o fim da década. Anthropic admite risco superior a 10% A declaração recebeu uma resposta de Evan Hubinger, líder de teste de alinhamento da Anthropic. Ele concordou com Coxon e afirmou que a empresa ainda não possui um plano para resolver o alinhamento de uma eventual superinteligência. Jacob está correto aqui — n...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/09/09/inteligencia-artificial/chance-de-ia-levar-humanos-a-extincao-supera-10-diz-especialista-de-startup/