Inteligência artificial: regulamentação em andamento — Foto: Editoria de Arte
O projeto de lei que regulamenta o desenvolvimento e uso da inteligência artificial (IA) no Brasil deve ser analisado nesta terça-feira no plenário na próxima semana. A proposta determina uma série de regras que devem ser seguidas pelas empresas no setor e estabelece como será feita a supervisão da tecnologia.
Uma das principais novidades é a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA). Caberá ao SIA estabelecer regulações posteriores e fiscalizar o cumprimento das regras.
Entenda,a seguir,os principais pontos do projeto.
Supervisão do sistema
Inteligência artificial: supervisão — Foto: Editoria de Arte
Quem fará a supervisão da IA no Brasil será o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA),formado por:
Autoridade Nacional de Proteção de Dados (ANPD) (coordenadora);Outros órgãos do Poder Executivo;Conselho Permanente de Cooperação Regulatória de Inteligência Artificial (CRIA);Comitê de Especialistas e Cientistas de Inteligência Artificial (CECIA).
Multas
Inteligência artificial: multas — Foto: Editoria de Arte
Em caso de descumprimento das regras estabelecidas,o projeto prevê uma série de sanções. As puniçoes são:
Advertência;Multa (máximo de R$ 50 milhões ou 2% do faturamento);Suspensão do sistema;Proibição de tratamento de bases de dados.
Alto risco
Inteligência artificial: alto risco — Foto: Editoria de Arte
O projeto define tecnologias consideradas de alto risco,que terão uma regulação reforçada. São sistemas que podem causar danos às pessoas ou à sociedade. Classificação,além da definição de inclusões futuras,será feito pelo SIA,com participação social
Exemplo de alto risco:
Seleção de estudantes;Recrutamento de vagas de emprego;Concessão de serviços públicos;Gestão da imigração;Avaliação de chamadas para serviços públicos essenciais;Veículos autônomos;Sistemas de identificação biométrica.
O que ocorre com sistemas de alto risco:
Devem ser submetidos a regras mais rígidas de governança,monitoramento e fiscalização
Empresas que desenvolvam ou utilizem sistemas de alto risco terão algumas obrigações,como a realização de testes para a avaliação de segurança e implementação de medidas para mitigar e prevenir vieses discriminatórios. Já os órgãos públicos,quando adotarem essas ferramentas,terão que possibilitar ao cidadão o direito à explicação e revisão humanas de decisão por sistemas de IA.
Os algoritmos de redes sociais chegaram a entrar na lista dos sistemas de alto risco,mas foram removidos durante a tramitação. Além disso,foi incluído um parágrafo que toda a regulação de "circulação de conteúdo online e que possam afetar a liberdade de expressão,inclusive o uso de IA para moderação e recomendação de conteúdo" será feita em outra lei.
O que não pode
Inteligência artificial: o que não pode — Foto: Editoria de Arte
Alguns sistemas serão proibidos,são eles:
Aarmas autônomas;Ferramentas usadas para pelo Poder Público para avaliar,classificar ou ranquear as pessoas para o acesso a bens e serviços;Avaliação de risco de cometimento de crime.
Direito autoral
Inteligência artificial: direito autoral — Foto: Editoria de Arte
Outro ponto importante é sobre a proteção dos direitos autorais. Quando um conteúdo protegido for utilizado para o treinamento e desenvolvimento de ferramentas de IA,será preciso remunerar os titulares das obras. O cálculo desse pagamento será feito com base nos princípios da "razoabilidade e da proporcionalidade" e levando em consideração o porte da empresa de IA e o impacto na concorrência. A empresa também deverá informar de forma pública quais foram os materiais utilizados.
Não haverá desrespeito ao direito autoral se os conteúdos protegidos forem utilizados para desenvolver um sistema de IA para ser utilizado por organizações e instituições científicas e de pesquisa,museus,arquivos públicos e bibliotecas. Para isso,contudo,é preciso que a ferramenta não tenha fins comerciais,que o acesso tenha se dado de forma lícita e que a utilização não prejudique a exploração normal das obras originais.
Emprego
Inteligência artificial: emprego — Foto: Editoria de arte
Os órgãos do SIA terão que atuar em conjunto com o Ministério do Trabalho para mitigar os potenciais impactos negativos aos trabalhadores,potencializar os impactos positivos e fomentar programas de treinamento.
O projeto não se aplica para todos os sistemas. Ficam de fora:
Testagem e desenvolvimento de novas sistemasFefesa nacional eUso particular e não econômico
A proposta traz alguns pontos para incentivar a inovação,como a previsão de que empresas de pequeno porte terão regras diferenciadas. O SIA também terá que promover uma regulação simplificada para o incentivo à inovação e à pesquisa científica e tecnológica.