Anthropic quer barrar IAs apenas diante de riscos extremos

Proposta limitaria o bloqueio do governo dos EUA (ilustração: Vitor Pádua/Tecnoblog) Resumo A Anthropic propôs que o governo dos EUA só possa bloquear modelos avançados de IA em casos de riscos catastróficos. Entre os exemplos, estão ameaças de morte ou ferimentos graves a mais de 50 pessoas ou prejuízos acima de US$ 1 bilhão. Avaliadores independentes fariam análises regulares dos laboratórios e modelos de IA e deveriam comunicar ao governo em até 72 horas. A Anthropic, dona do Claude, propôs que o governo federal dos EUA só possa bloquear modelos avançados de IA diante de riscos catastróficos, incluindo ameaças de morte, ferimentos graves em mais de 50 pessoas ou prejuízos acima de US$ 1 billhão (R$ 5,08 bilhões). O site Politico obteve o rascunho do projeto de lei. A iniciativa da Anthropic seria uma forma de estabelecer regras mais claras sobre o desenvolvimento e o uso de modelos avançados de inteligência artificial. Quando um modelo de IA poderia ser bloqueado? Segundo a reportagem, o governo poderia pedir a suspensão do lançamento ou uso de um modelo diante de risco previsível e iminente de matar ou ferir gravemente mais de 50 pessoas. Outra possibilidade seria uma ameaça de prejuízo superior a US$ 1 bilhão. O risco precisaria estar ligado à criação ou liberação de uma arma biológica, a um ciberataque ou à capacidade do modelo de escapar do controle. O bloqueio seria preventivo, ou seja, não seria necessário esperar que as mortes, os ferimentos ou as perdas financeiras ocorressem. O procedimento dependeria de uma avaliação antecipada do perigo representado pelo sistema. Quem avaliaria os riscos? Bloqueio seria preventivo e dependeria de decisão da Justiça dos EUA (imagem: Vitor Pádua/Tecnoblog) O texto prevê análises regulares dos laboratórios e de seus modelos por avaliadores independentes. Se identificassem um risco iminente previsto no documento, eles deveriam comunicar suas conclusões em até 72 horas ao Departamento de Comércio. Caberia ao órgão apresenta...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/anthropic-quer-barrar-ias-apenas-diante-de-riscos-extremos/