Está atualmente em discussão o Projeto de Lei nº 2338/2023, que deverá regulamentar o desenvolvimento, implementação e uso da inteligência artificial no país. A regulamentação busca conciliar o desenvolvimento tecnológico, a inovação e a livre concorrência, com a proteção de direitos e liberdades fundamentais, a valorização do trabalho e a dignidade da pessoa humana.

O projeto de lei define sistema de inteligência artificial como todo “sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou logica e representação do conhecimento, por meio de dados de entrada provenientes de maquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real”.

O projeto trata dos princípios que devem nortear o desenvolvimento, implementação e uso da inteligência artificial, prevê uma série de direitos das pessoas afetadas, e determina que, previamente à sua colocação no mercado ou utilização em serviço, todo sistema de inteligência artificial deve passar por avaliação preliminar realizada pelo fornecedor para classificação de seu grau de risco. Além disso, determina que os agentes de inteligência artificial (fornecedores e operadores de sistemas) estabeleçam estruturas de governança e processos internos aptos a garantir sua segurança e o atendimento dos direitos de pessoas afetadas. O projeto prevê, ainda, obrigatoriedade da comunicação de incidentes, responsabilização civil do agente que causar danos a terceiros e sanções administrativas em caso de infração à Lei.

Na última semana, a Autoridade Nacional de Proteção de Dados (ANPD) divulgou sua análise sobre o PL nº 2338/2023, destacando as muitas interseções entre o projeto e a LGPD e o fato de que a experiência e as diretrizes ja? estabelecidos pela LGPD poderiam servir como base para a elaboração de mecanismos de governança específicos para a inteligência artificial.

Enquanto a regulamentação da inteligência artificial no país não for aprovada, é importante que os agentes que pretendam desenvolver, implementar ou usar sistemas dessa natureza busquem realizar avaliação preliminar para determinar os riscos envolvidos e adotar medidas para minimizar tais riscos, além de documentar sua avaliação de forma a garantir a possibilidade de prestação de contas, caso necessário.

Vale mencionar que o projeto traz algumas vedações expressas à implementação e ao uso de sistemas de inteligência artificial, como nos casos de emprego de técnicas subliminares ou exploração de vulnerabilidades de grupos específicos, que induzam os indivíduos a se comportarem de forma prejudicial a sua saúde ou segurança.

Os fornecedores e operadores de sistemas de inteligência artificial devem estar especialmente atentos a sistemas que possam ser considerados de alto risco, a exemplo daqueles utilizados para:

- segurança na gestão e no funcionamento de infraestruturas criticas;

- educação, formação profissional, determinação de acesso a instituições de ensino, avaliação e monitoramento de estudantes;

- recrutamento e avaliação de candidatos, tomada de decisões sobre promoções e gestão de trabalhadores;

- avaliação da capacidade de endividamento das pessoas naturais;

- classificação de crédito;

- veículos autônomos;

- aplicações na área da saúde;

- sistemas biométricos de identificação;

- entre outros.