Anthropic: pesquisador deixa empresa por medo de IA “sair do controle”

Um pesquisador da Anthropic decidiu deixar a indústria de inteligência artificial (IA) por temer que a corrida entre empresas do setor esteja levando ao desenvolvimento de sistemas que, no futuro, poderão escapar do controle humano. Jacob Coxon, de 27 anos, trabalhava na Anthropic com treinamento de novos modelos de IA a partir do processamento de grandes volumes de dados. Ele deixou a empresa porque não quer participar do que considera uma corrida da indústria para criar sistemas capazes de melhorar a si próprios. Segundo Coxon, esses modelos poderiam evoluir rapidamente a ponto de se tornarem impossíveis de controlar e, em cenário extremo, representar uma ameaça à humanidade. O pesquisador, que estudou matemática anteriormente, afirmou que colegas do setor passaram a utilizar expressões como “crunchtime” e “endgame” para descrever o caminho em direção a modelos capazes de autoaperfeiçoamento. “Estamos a caminho de muitos dos cenários mais agressivos, nos quais, até o fim do próximo ano, as coisas já poderiam estar fora de controle”, afirmou Coxon. Para ele, a competição entre empresas estadunidenses e novas companhias chinesas torna inevitáveis determinados compromissos entre segurança e velocidade de desenvolvimento. Pesquisador trocou OpenAI pela Anthropic Coxon havia deixado a OpenAI no início deste ano para trabalhar na Anthropic justamente porque a empresa era conhecida pelos esforços voltados à segurança de seus modelos; Embora tenha considerado sinceros os esforços da Anthropic nessa área, ele chegou à conclusão de que nenhuma empresa conseguiria desenvolver de maneira responsável uma IA capaz de superar seres humanos em uma ampla variedade de tarefas — conceito frequentemente associado à IA geral, ou IAG — sem intervenção governamental ou uma desaceleração coordenada do setor; A Anthropic não comentou imediatamente a saída do pesquisador; O CEO da companhia, Dario Amodei, e outros executivos da empresa têm alertado repetidamente sobre os riscos de modelos ...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/09/08/inteligencia-artificial/anthropic-pesquisador-deixa-empresa-por-medo-de-ia-sair-do-controle/