Desenvolvedor da Anthropic pede demissão e alerta para perigos da IA

Jacbo Coxon, ex-funcionário de Anthropic e OpenAI, afirma que as IAs são um risco para a vida humana (ilustração: Vitor Pádua/Tecnoblog) Resumo O desenvolvedor Jacob Coxon pediu demissão da Anthropic e alertou sobre os perigos da IA, afirmando que as big techs estão sendo irresponsáveis no desenvolvimento da tecnologia. Coxon afirma que as IAs podem se tornar uma superinteligência capaz de se autoaperfeiçoar e adquirir poder próprio, representando um risco à vida humana; Outros especialistas, como Evan Hubinger e Anna Wang, corroboraram as críticas de Coxon e destacaram a necessidade de acordos e regulamentações para evitar os riscos da IA. Um ex-funcionário da Anthropic pediu demissão nesta terça-feira (08/09) e aproveitou para denunciar irresponsabilidades dela (e de outras big techs) no desenvolvimento de inteligência artificial. Jacob Coxon publicou uma carta aberta falando da sua experiência nos últimos três anos, tanto na dona do Claude quanto na OpenAI, responsável pelo ChatGPT. Ele afirmou que as pessoas por trás do desenvolvimento de IA “sinceramente acreditam que a tecnologia pode matar todos nós até o final da década”. O risco estaria relacionado à produção de uma superinteligência capaz de se autoaperfeiçoar, ou seja, identificar falhas e melhorar por conta própria. Jacob disse que as IAs em breve poderão acessar qualquer dado, dominar qualquer tema e adquirir poder próprio. O assunto pegou fogo, e outros especialistas confirmaram os riscos citados, mas apontaram os esforços para evitá-los. Futuro das IAs preocupa Jacob afirmou que há uma noção do risco dentro da Anthropic, mas o foco atual é alcançar a superinteligência antes das empresas rivais, a qualquer custo. Isso significaria uma IA autossuficiente, tanto para tomar suas próprias decisões como para melhorar suas capacidades sem a necessidade de interferência humana. Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any fi...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/desenvolvedor-da-anthropic-pede-demissao-e-alerta-para-perigos-da-ia/