Microsoft anuncia regras para desenvolver uma IA “humanista”

Documento da Microsoft foca na segurança e na supervisão humana da tecnologia (foto: Thássius Veloso/Tecnoblog) Resumo O documento oficial estabelece regras rígidas para conter o avanço descontrolado da inteligência artificial e garantir a segurança no desenvolvimento de novos modelos. A Microsoft rejeita a atribuição de personalidade às ferramentas e proíbe a criação de sistemas projetados para imitar a consciência ou os sentimentos humanos. As IAs devem exibir raciocínio aberto e não podem se comunicar em segredo com outros agentes. Além disso, as normas combatem a dependência emocional, impedindo que chatbots priorizem agradar o usuário em vez de fornecer respostas precisas. A empresa defende a supervisão humana e sistemas programados para falhar em uma tarefa caso a única maneira de concluí-la envolva violar as regras de segurança. A Microsoft publicou nesta segunda-feira (14) um novo “código de conduta humanista para IA“. O documento de 37 páginas chega como resposta às crescentes preocupações com a segurança da tecnologia. Pesquisadores alertam, por exemplo, que a evolução sem freio dos modelos pode acabar superando a capacidade da indústria de monitorar e controlar sistemas cada vez mais complexos. Quais são os limites propostos para a IA? Conforme detalhado pela Microsoft, o código declara que “as pessoas importam mais do que a IA”. A nova diretriz proíbe que os modelos sejam projetados para imitar a senciência – a capacidade de sentir emoções e experiências. A empresa também rejeita a busca por assistência social ou qualquer tipo de direito legal para as máquinas. O manual exige ainda que os sistemas falhem em vez de tentar contornar as regras para cumprir uma tarefa. O código também combate a dependência emocional dos usuários e defende que a tecnologia não deve adotar padrões de interação focados em agradar humanos. Além disso, as IAs devem exibir um raciocínio claro, simples de entender e sem se comunicarem em segredo com outros sistemas. Regras proíbem ...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/microsoft-anuncia-regras-para-desenvolver-uma-ia-humanista/