IA poderosa demais pode ameaçar humanidade, alerta ONU

A evolução acelerada da inteligência artificial começa a levantar preocupações que vão além de empregos, privacidade e desinformação. Para Volker Türk, alto comissário das ONU, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde. O alerta foi feito durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). Türk defendeu regras obrigatórias e mecanismos independentes de fiscalização para acompanhar o desenvolvimento da tecnologia. IA pode ultrapassar o controle de seus criadores A principal preocupação está no avanço de sistemas capazes de agir com maior autonomia. Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle. O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento. Para ele, comportamentos desse tipo representam um sinal de que determinados sistemas podem estar recebendo autonomia excessiva. A discussão ganha força à medida que empresas investem em agentes de IA capazes de executar tarefas, tomar decisões e interagir com diferentes sistemas sem acompanhamento humano constante. Poder da IA está concentrado em poucas pessoas Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos. Além do domínio sobre tecnologias estratégicas, essas organizações controlam grandes volumes de dados e infraestrutura computacional. Na avaliação do representante da ONU, a segurança da IA exige uma cooperação maior entre empresas, governos, pesquisadores e entidades independentes. A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benefícios sociais, ambientais e democráticos. Armas autônomas aumentam a preocupação Outro ponto sensível é a aplicação da IA em conflitos armados. Türk defen...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/ia-poderosa-demais-pode-ameacar-humanidade-alerta-onu/