Marco Civil aprovado pelo Senado estabelece regras mais rígidas para IA quando há impacto na vida humana

O Senado Federal aprovou o projeto de lei que estabelece um marco regulatório para a inteligência artificial (IA) no Brasil. A proposta segue agora para a Câmara dos Deputados e busca garantir um desenvolvimento responsável da IA, protegendo os direitos dos cidadãos e estimulando a inovação tecnológica no país. O texto, que passou por 14 audiências públicas com a participação de especialistas e sociedade civil, inclui diversas diretrizes para a regulamentação, com destaque para a classificação dos sistemas de acordo com o risco que representam.

Os sistemas de “alto risco”, como aqueles que impactam diretamente a vida humana ou os direitos fundamentais, terão regras mais rigorosas. Além disso, o uso de IA em contextos como veículos autônomos, seleção de estudantes e políticas públicas será mais restrito. Também são proibidos sistemas com "risco excessivo", como os que envolvem armas autônomas e técnicas subliminares.

Sistemas de Inteligência Artificial de alto risco

1. Veículos autônomos;
2. Controle de trânsito e gestão de serviços essenciais (como abastecimento de água e eletricidade) com risco para a integridade física das pessoas ou interrupção ilegal ou abusiva dos serviços;
3. Seleção de estudantes para acesso à educação e progressão acadêmica;
4. Tomada de decisões sobre recrutamento, avaliação, promoção e demissão de trabalhadores;
5. Avaliação de critérios para elegibilidade a serviços e políticas públicas;
6. Investigação de fatos e aplicação da lei com risco às liberdades individuais, especialmente na administração da Justiça;
7. Gestão de prioridade em serviços de emergência (como bombeiros e assistência médica);
8. Estudo analítico de crimes;
9. Diagnósticos médicos;
10. Controle de fronteiras;
11. Reconhecimento de emoções por identificação biométrica;
12. Análise de dados para prevenção de crimes.

Uma das principais inovações do projeto é a introdução de uma avaliação preliminar de risco, obrigatória para sistemas generativos e de propósito geral, a fim de medir o impacto potencial antes de sua disponibilização no mercado. A proposta também estabelece regras de proteção aos direitos autorais, permitindo o uso de conteúdos protegidos para treinar IA em contextos de pesquisa e educação, sem prejudicar os interesses econômicos dos criadores.

No que se refere aos direitos dos cidadãos, o projeto assegura a proteção da privacidade e dos direitos de personalidade. O uso de IA para identificação biométrica e outras tecnologias deverá respeitar o consentimento prévio e evitar discriminação ou invasão de privacidade. Para sistemas que possam afetar diretamente os direitos dos trabalhadores, como em decisões automatizadas de recrutamento e demissões, será garantido o direito à revisão humana das decisões.

A Autoridade Nacional de Proteção de Dados (ANPD) será a responsável pela regulamentação e fiscalização da IA no Brasil, impondo sanções e multas quando necessário. A ANPD também coordenará o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), integrado por órgãos estatais e entidades de autorregulação, com o objetivo de harmonizar as políticas públicas e promover a transparência no uso da IA.

Além disso, o projeto assegura que os cidadãos afetados por sistemas de alto risco terão direito a explicações sobre as decisões tomadas pela IA, podendo contestá-las e solicitar revisão humana, especialmente quando essas decisões tiverem impacto jurídico significativo. O substitutivo também busca equilibrar a proteção de direitos individuais e sociais com o avanço tecnológico, estimulando a inovação, especialmente nas microempresas e startups nacionais, e promovendo o letramento digital da população para um melhor aproveitamento da tecnologia.

Publicada por Felipe Dantas

*Reportagem produzida com auxílio de IA