Regulamentação da Inteligência Artificial no Brasil…

Imagem retirada do site Img1

Introdução

O uso da Inteligência Artificial (IA) tem ganhado cada vez mais espaço dentro das soluções tecnológicas disponíveis no mercado, a ponto que, usamos IA a quase todo mundo em algum nível e nem nos damos conta. A IA está nos nossos trabalhos (programas de verificação de spam, análises preditivas de mercado, entre outros), em nossos celulares (no nosso corretor ortográfico, por exemplo), em nossos computadores (nos programas da Microsoft...), em nossa casa (na nossa Alexa, Siri ou Google Home)... Você já tinha reparado nisso?

Mas como essas IA's funcionam? Quais dados são usados nas análises? Quais dados têm mais peso ou menos peso no resultado obtido? Essas perguntas, geralmente não são respondidas, tornando os sistemas de IA uma caixa preta para a maioria das pessoas.

Senador Rodrigo Pacheco

Muitos talvez não saibam que no dia 03 de maio de 2023, o presidente do senado, Rodrigo Pacheco, apresentou um novo projeto de lei (PL 2.338; 2023) para regulamentar a Inteligência Artificial (IA) em nossas terras Tupiniquins, também conhecida como Brasil!

Mas quais são os pontos dessa PL? Quais desafios essa PL pode trazer? Quais benefícios estão presentes nessa PL? É sobre isso que vamos conversar nesse artigo! Então você vem comigo?

O Objetivo da PL

O texto da PL 2.338/2023 foi elaborado com um objetivo de ser um texto completo referente ao assunto de IA a partir de reuniões realizadas por uma Comissão de Juristas iniciada no ano passado que teve mais de 70 audiências públicas e reúne 3 outras PL que iniciou os trâmites em fevereiro de 2022 no Senado Federal. Essas 3 PL são:

• PL 5.051/2019 que fala sobre o uso da IA no Brasil

• PL 21/2020 que apresenta fundamentos princípios e diretrizes para o desenvolvimento e aplicação da IA

• PL 872/2021 que trata sobre questões éticas e diretrizes de uso da IA

O projeto 2.338/2023 pretende:

"Esta Lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, visando proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico." [1]

Podemos ver duas principais abordagens da PL:

"De um lado, estabelece direitos para proteção a pessoa diariamente impactada por sistemas de inteligência artificial, desde a recomendação de conteúdo e direcionamento de publicidade na Internet até a sua análise de elegibilidade para tomada de crédito e para determinadas políticas públicas. De outro lado, de um arranjo institucional de fiscalização e supervisão, cria condições de previsibilidade acerca da sua interpretação e, em última análise, segurança jurídica para inovação e o desenvolvimento tecnológico" [2]

Os nossos diretos

A PL estabelece os seguintes direitos a quem usa no art. 5

1 - Direito à informação prévia quanto às suas interações com sistemas de inteligência artificial;

As empresas devem fornecer descrição geral da IA, explicar de forma entendível como funciona a sua IA, quais interações ele faz, de onde ela pega os dados e como esses dados são usados.

2 - Direito à explicação sobre a decisão, recomendação ou previsão tomada por sistemas de inteligência artificial;

As empresas devem fornecer de forma simples como a IA funciona, ou seja, quais são as regras, a linha de "pensamento" que a IA pode percorrer para chegar aos resultados prometidos.

3 - Direito de contestar decisões ou previsões de sistemas de inteligência artificial que produzam efeitos jurídicos ou que impactem de maneira significativa os interesses do afetado;

As empresas devem fornecer um meio para que os usuários possam contestar os resultados da IA que os afetem seja no âmbito jurídico ou em interesses próprios.

4 - Direito à determinação e à participação humana em decisões de sistemas de inteligência artificial, levando-se em conta o contexto e o estado da arte do desenvolvimento tecnológico;

Caso seja solicitado pelo usuário a intervenção de um ser humano no funcionamento de uma IA, isso deve ser fornecido pela empresa.

5 - Direito a não-discriminação e à correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos; e

As empresas devem sempre estar atendas para que suas IA, não cometam discriminação e que corrijam qualquer viés que seja percebido.

6 - Direito à privacidade e à proteção de dados pessoais, nos termos da legislação pertinente

Aqui entra a LGPD…

Os deveres dos criadores das IA's

Um dos principais pontos abordados pela PL é a necessidade de uma avaliação preliminar para classificação de risco de implementação daquela IA. Além disso, é necessário que os criadores estabeleçam estruturas de governança e processos interno aptos a garantir a segurança dos sistemas e o atendimento dos usuários. Em casos de sistemas considerados de alto risco, a autoridade competente será notificada sobre o sistema além de algumas medidas e processos internos específicos.

"O texto parte de uma abordagem baseada no risco que a ferramenta pode oferecer ao cidadão. A proposta traz uma governança de que quanto maior o risco no desenvolvimento e utilização da IA, maiores são as obrigações e responsabilidades tanto de quem desenvolve quanto de quem aplica." (Fabrício da Mota Alves, Coordenador da área de Direito Digital e Proteção de Dados do Serur Advogados) [4]

Quando um sistema é considerado de Alto Risco

Toda IA usada que possuem as seguintes finalidades são consideradas de ato risco:

1. aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas;

2. educação e formação profissional, incluindo sistemas de determinação de acesso a instituições de ensino;

3. recrutamento, triagem, filtragem, avaliação de candidatos, tomada de decisões sobre promoções ou cessações de relações contratuais de trabalho, repartição de tarefas e controle e avaliação do desempenho e do comportamento das pessoas

4. avaliação de critérios de acesso, elegibilidade, concessão, revisão, redução ou revogação de serviços privados e públicos que sejam considerados essenciais;

5. avaliação da capacidade de endividamento das pessoas naturais ou estabelecimento de sua classificação de crédito;

6. envio ou estabelecimento de prioridades para serviços de resposta a emergências;

7. administração da justiça;

8. aplicações na área da saúde;

9. sistemas biométricos de identificação;

10. investigação criminal e segurança pública;

11. estudo analítico de crimes relativos a pessoas naturais;

12. investigação por autoridades administrativas para avaliar a credibilidade dos elementos de prova no decurso da investigação ou repressão de infrações;

13. gestão da migração e controle de fronteiras

O que os criadores não devem fazer

Outro ponto é que são vedadas a implementação e o uso que caiam em um dos seguintes casos, presente no art. 14:

1. que empreguem técnicas subliminares que tenham por objetivo ou por efeito induzir a pessoa natural a se comportar de forma prejudicial ou perigosa à sua saúde ou segurança, ou contra os fundamentos desta Lei;

2. que explorem quaisquer vulnerabilidades de grupos específicos de pessoas naturais, tais como as associadas a sua idade ou deficiência física ou mental, de modo a induzi-las a se comportar de forma prejudicial a sua saúde ou segurança ou contra os fundamentos desta Lei;

3. pelo poder público, para avaliar, classificar ou ranquear as pessoas naturais, com base no seu comportamento social ou em atributos da sua personalidade, por meio de pontuação universal, para o acesso a bens e serviços e políticas públicas, de forma ilegítima ou desproporcional.

Em casos de incidentes graves, os criadores devem comunicar a autoridade competente a ocorrência de incidentes de segurança, interrupção de operações críticas de infraestrutura, graves danos a propriedade ou ao meio ambiente e violações aos diretos fundamentais.

Punições

A PL estabelece em seu art. 27 que "O fornecedor ou operador de sistema de inteligência artificial que cause dano patrimonial, moral, individual ou coletivo é obrigado a repará-lo integralmente, independentemente do grau de autonomia do sistema. " [1]

Além disso, casos os criadores cometam infrações podem sofrer as seguintes sanções

1. advertência;

2. multa simples, limitada, no total, a R$ 50.000.000,00 (cinquenta milhões de reais) por infração, sendo, no caso de pessoa jurídica de direito privado, de até 2% (dois por cento) de seu faturamento, de seu grupo ou conglomerado no Brasil no seu último exercício, excluídos os tributos;

3. publicização da infração após devidamente apurada e confirmada a sua ocorrência;

4. proibição ou restrição para participar de regime de sandbox regulatório previsto nesta Lei, por até cinco anos;

5. suspensão parcial ou total, temporária ou definitiva, do desenvolvimento, fornecimento ou operação do sistema de inteligência artificial;

6. proibição de tratamento de determinadas bases de dados.

Observações importantes

A PL deixa claro que nada poderá ser colocado no mercado sem a sanção do órgão fiscalizador a ser definido que irá realizar testes antes de liberar o registro para operação do sistema.

Conclusão

O custo para que as empresas consigam cumprir todos os requisitos presente na lei é muito alto e isso pode se tornar um desincentivo para o desenvolvimento da tecnologia no país ou vai aumentar a concentração já existente no mercado, pois somente grandes empresas terão como arcar com as providências necessárias caso essa Pl seja aprovada.

Mesmo a PL trazendo avanços em questões como mitigação de riscos e viés em algoritmos, responsabilização, prestação de contas por parte dos criadores de IA fazendo com as empresas tomem mais cuidados para que suas IA's não violem as leis, ela apresenta algumas fragilidades sobre o entendimento de responsabilização dos criadores.

"Se o motor de uma ambulância falha, o fabricante responde pela morte do paciente? E se um documento escrito em Word incita a baderna, ou racismo ou ofensas, a Microsoft é corresponsável? No caso da IA é a mesma coisa. Há um limite para o dolo e para o controle que os criadores da tecnologia conseguem exercer" (Luiz Lobo, fundador da startup de tecnologia digital Fintalk) [5]

É importante entender que não existe somente pontos negativos na implementação de PL. Essa Pl traz alguns pontos bem positivos tais como mitigação de riscos e viés no algoritmo, prestação de contas por parte dos criadores dos sistemas

"A proposta cria um estatuto de direitos do usuário, que permite ao afetado pela tecnologia contestar decisões tomadas com base em inteligência artificial. Ela também dá o direito à explicabilidade, dependendo da situação." (Fabrício da Mota Alves) [6]

Referências

[1] PL 2338/2023 - Senado Federal. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/157233>.

[2] Rodrigo Pacheco apresenta projeto de lei para regular o uso da inteligência artificial no Brasil. Disponível em: <https://exame.com/brasil/rodrigo-pacheco-apresenta-projeto-de-lei-para-regular-o-uso-da-inteligencia-artificial-no-brasil/>. Acesso em: 5 jul. 2023.

[3] CANALTECH. Projeto de lei quer regulamentar inteligência artificial no Brasil. Disponível em: <https://canaltech.com.br/legislacao/projeto-de-lei-quer-regulamentar-inteligencia-artificial-no-brasil-248672/>. Acesso em: 5 jul. 2023.

‌[4] Projeto de lei brasileiro quer regular a inteligência artificial. Disponível em: <https://tecnoblog.net/noticias/2023/05/04/projeto-de-lei-brasileiro-quer-regular-a-inteligencia-artificial/>. Acesso em: 5 jul. 2023.

‌[5] Como é projeto de lei que quer regular a inteligência artificial no Brasil e o que dizem os especialistas. Disponível em: <https://epocanegocios.globo.com/tecnologia/noticia/2023/05/como-e-projeto-de-lei-que-quer-regular-a-inteligencia-artificial-no-brasil-e-o-que-dizem-os-especialistas.ghtml>. Acesso em: 5 jul. 2023.

[6] Projeto de lei brasileiro quer regular a inteligência artificial. Disponível em: < https://www.terra.com.br/byte/projeto-de-lei-brasileiro-quer-regular-a-inteligencia-artificial,f05d8a79bdef1fd58e410027e2d2204c48135nic.html> ‌ Acesso em: 5 jul. 2023.

Imagem

[Img1] RODRIGUES, J. Tendências da inteligência artificial para ficar de olho. Disponível em: <https://blog.culte.com.br/tendencias-da-inteligencia-artificial-ia-para-ficar-de-olho-em-2023/>. Acesso em: 5 jul. 2023.

‌