Microsoft adota “manual” e garante que suas IAs não vão resistir a desligamento

A Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as regras está a determinação de que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos. O documento ainda estabelece que as IAs não devem criar objetivos próprios, ampliar seu escopo de atuação por conta própria ou esconder de seus responsáveis o que estão fazendo. O texto é tratado pela companhia como uma espécie de “constituição” para os futuros modelos desenvolvidos pela Microsoft AI, divisão comandada por Mustafa Suleyman. A empresa abriu uma consulta pública de seis semanas antes de transformar as regras em uma referência para o treinamento de seus próximos sistemas. Código tenta manter IA sob controle humano Uma das principais determinações é que os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos. A regra também prevê que os sistemas aceitem correções e considerem uma violação das diretrizes como uma falha, mesmo que isso impeça a conclusão de uma tarefa. O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA não deve transformar uma tarefa recebida em uma missão mais ampla por iniciativa própria nem criar novas metas para tentar alcançar o resultado solicitado. Outro ponto envolve a forma como os sistemas explicam suas ações. A Microsoft afirma que seus modelos não devem esconder ou distorcer informações sobre o próprio comportamento e que precisam se comunicar de maneira compreensível para seres humanos. A companhia também quer impedir que agentes de IA utilizem formas de comunicação que dificultem a supervisão por pessoas ou por outros sistemas. O código também estabelece restrições para determinados usos. Entre eles estão pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação pr...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/microsoft-adota-manual-e-garante-que-suas-ias-nao-vao-resistir-a-desligamento/