Supervisão das IAs: fundamentos para uma governança responsável

O Projeto de Lei n° 2338, apresentado pelo Senado Federal em substituição ao Projeto de Lei n° 2120, visa estabelecer o marco regulatório da inteligência artificial (IA) no Brasil.  A proposta cria normas gerais para desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial para proteger direitos fundamentais e garantir sistemas seguros e confiáveis. Sabemos que a implantação de sistemas de Inteligência Artificial (IA) no setor público e privado é urgente e a crescente demanda por essa necessidade evidencia o gargalo de mecanismos robustos de governança capazes de assegurar o uso responsável, transparente e seguro dessas tecnologias. Embora a IA apresente potencial significativo para aprimorar processos decisórios, otimizar fluxos administrativos e ampliar a eficiência institucional, sua implementação também introduz novos desafios relacionados a riscos técnicos, éticos, jurídicos e operacionais. Nesse contexto, torna-se fundamental que os sistemas de IA sejam desenvolvidos e operados a partir da adoção de boas práticas voltadas ao monitoramento contínuo e à mitigação de riscos. Tais práticas incluem, entre outros aspectos, a avaliação prévia de impactos algorítmicos, a implementação de mecanismos de auditoria e rastreabilidade das decisões automatizadas, a supervisão humana em processos críticos e a garantia de transparência quanto aos critérios utilizados pelos modelos computacionais. A governança adequada desses sistemas também pressupõe a criação de estruturas institucionais capazes de acompanhar o ciclo de vida da tecnologia, desde sua concepção e treinamento até sua implementação e eventual revisão. Nesse sentido, práticas como testes de robustez, validação periódica dos modelos, revisão de bases de dados utilizadas para treinamento e mecanismos de detecção de vieses tornam-se essenciais para evitar distorções, discriminações indevidas ou falhas sistêmicas. Adicionalmente, o monitoramento contínuo dos sistemas de IA permite identi...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/03/21/colunistas/supervisao-das-ias-fundamentos-para-uma-governanca-responsavel/