Estudo analisa o desafio de regular a inteligência artificial

Estudo analisa o desafio de regular a

INTELIGÊNCIA ARTIFICIAL

A inteligência artificial permeia todos os aspectos de nossa vida digital: do filme indicado pela plataforma de streaming à otimização de percursos no transporte público de uma cidade inteira. Quais os desafios e riscos que esta nova tecnologia traz ao cidadão? A quem responsabilizar por danos causados por disfunções de uma conta matemática?

O estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”, realizado pelo consultor legislativo Claudio Nazareno, da Câmara dos Deputados, enfrenta essas questões, traça um panorama da regulamentação da inteligência artificial pelo mundo, apresenta leis brasileiras que se relacionam com a IA e analisa as principais propostas em discussão.

O que é a Inteligência Artificial?

Um método executado por máquinas que se
conectam a um grande banco de dados e que usam
regras e cálculos de probabilidade (os algoritmos)
para inferir respostas e ações plausíveis.

Estudo analisa o desafio de regular a

INTELIGÊNCIA ARTIFICIAL

O que é a Inteligência Artificial?

Um método executado por máquinas que se conectam a um grande banco de dados e que usam regras e cálculos de probabilidade (os algoritmos) para inferir respostas e ações plausíveis.

Principais desafios que surgem com a IA

Viés

Os códigos de computador que desenham a inteligência artificial são desenvolvidos por pessoas que têm preferências e características de comportamento, sociais e culturais próprias
Se a base de dados de um aplicativo é alimentada por pessoas com uma característica social, a resposta oferecida pelo sistema estará marcada por esse viés, eventualmente diferente da realidade do local do usuário
Como a maior parte do conteúdo da internet está em inglês, opiniões anglófonas são mais apresentadas como verdade
Estudos mostram que algoritmos de predição de crimes têm viés racista
Ao tentar compensar esses vieses, ferramentas IA podem ser “excessivamente politicamente corretas, pró-diversidade, etc”

Alucinações

É o nome que se dá quando um algoritmo apresenta resposta totalmente inventada e irreal
Um advogado, nos EUA, fez uma petição com o ChatGPT, que citou casos e sentenças inexistentes
No Brasil, Conselho Nacional de Justiça investiga juiz que citou jurisprudência inventada pela IA

Erros algoritmos

Carros autônomos ou com piloto automático têm se envolvidos em acidentes, inclusive fatais
Na Coreia do Sul um operário morreu esmagado por um robô que o confundiu com caixas de produtos

Como elaborar uma legislação sobre inteligência artificial que permita identificar erros e, eventualmente, punir responsáveis

Identificar responsáveis

Pelo direito civil, todo autor de ato ilícito (por ação, omissão voluntária, negligência ou imprudência) que causar dano é obrigado a repará-lo, independentemente de culpa

Código de Defesa do Consumidor estabelece responsabilidade solidária: toda a cadeia de fornecimento de um bem ou serviço é considerada responsável

Isso também vale quando o serviço é intermediado pela internet e por inteligência artificial

No caso da IA, esta cadeia é longa: em um acidente com um carro autônomo, por exemplo, são muitas as variáveis para garantir
a responsabilização justa e segura dos diferentes elos da cadeia

Mensurar Riscos

Há atividades com maior e menor risco: o autocompletar de um e-mail não tem o mesmo risco de uma cirurgia realizada remotamente

Legislação de IA comumente classifica as atividades em alto, médio e baixo risco e proíbe usos mais arriscados

Órgão fiscalizador

Legislação determina a quem compete regular a IA e como responsabilizar cada parte da cadeia envolvida

Experiências internacionais

128 leis e cartas de princípios regulam IA no mundo

Unesco

Recomendações sobre a Ética da Inteligência Artificial da Unesco (2023) e o respeito e proteção dos direitos e dignidades humanas

ONU

Relatório do Corpo Consultivo de Alto-Nível em Inteligência Artificial (2024): além de não fazer o mal, o desenvolvimento da AI deve visar ao interesse público

União Europeia

Fase final de redação da Lei da Inteligência Artificial: prevê aplicação de multas de até 35 milhões de euros ou 7% do volume de negócios globais. Implementação da Lei prevê a criação de um órgão transnacional, no âmbito da Comissão Europeia

Proíbe uso de IA na classificação ou pontuação social, raspagem de dados biométricos ou faciais ou reconhecimento de emoções.
Permite uso de IA, com restrições, para identificação biométrica, avaliação educacional, avaliação de riscos de créditos e sistemas que influenciem eleições.
Obriga identificação quando houver uso de IA em deepfakes e robôs de resposta automática em chats

Outras regulações

Países como EUA, Reino Unido, China, Japão e Rússia têm alguns regulamentos específicos e pontuais. Possuem cartas de princípios, mas não criaram órgão específico para fiscalizar,
mensurar riscos e responsabilidades

Brasil: o que já existe

Lei Geral de Proteção de Dados Pessoais
LGPD (Lei nº 13.709/2018) regulamenta a forma como dados pessoais são tratados por governos e empresas, independente de ser via IA, tendo princípios como boa-fé, ter finalidade legítima, ser de livre acesso, transparente, não discriminatório, entre outros.

Resolução 23.732/2024 do Tribunal Superior Eleitoral
determina novas regras para a propaganda eleitoral e proíbe o uso de deep fakes, restringe o uso de chatbots e avatares e torna obrigatória a identificação de conteúdos manipulados.

Legislações em discussão

Mais de 40 projetos de lei em discussão na Câmara, sendo dois os projetos principais:

1 PL 2338/2023 - versão original do Senado

Prevê possibilidade de solicitação de intervenção ou revisão humana em casos relevantes
Proíbe discriminação em decorrência do uso de dados sensíveis (raça, gênero, orientação sexual, etc.) ou de situações de vulnerabilidade
Estabelece responsabilização quando provedor causar dano patrimonial, moral, individual ou coletivo, obrigando a reparação integral
Prevê que culpa do causador do dano é presumida, com inversão do ônus da prova em favor da vítima
Cria autoridade competente para fiscalização, com poder de aplicar sanções, que vão de advertência à suspensão temporária ou definitiva de desenvolvimento e operação de sistemas de IA e proibição de tratamento de bases de dados

Define usos e autorizações:

Fornecedor ou operador responde objetivamente, na medida de sua participação

Proíbe uso de IA em:

Sistemas de pontuação social, quando multas ou sanções proíbem acesso a algum direito
Técnicas subliminares que causem comportamentos prejudiciais à saúde ou segurança
Aplicações que permitam a exploração de vulnerabilidades

É permitido o uso de IA desde que como parte de sistema estruturado e documentado, com avaliação periódica e plano de governança que garanta direitos das pessoas envolvidas:

Avaliação de candidatos na
área trabalhista

Acesso a serviços essenciais e de seguridade

Classificação
de crédito

Resposta a serviço de emergências

Administração
da justiça

Veículos autônomos

Saúde

Biometria

Classificação de crédito

Investigação em segurança pública

Avaliação de provas em decurso de investigações

Imigração

2 PL 21/2020 - versão original do Senado

Estabelece que o uso da IA deve seguir a LGPD
Deve objetivar a pesquisa ética, a competitividade, a inclusão e a cooperação
Permite uso de IA desde que busque o benefício para as pessoas e o planeta, ter centralidade no ser humano, ser transparente e seguro
Não prevê órgão de controle setorial

Conheça na íntegra o estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil“, do consultor legislativo Claudio Nazareno

Texto: Carolina Nogueira Arte: Thiago Fagundes – Rafael Teodoro – Agência Câmara de Notícias – 03/06/2024