Estudo analisa o desafio de regular a

INTELIGÊNCIA ARTIFICIAL

A inteligência artificial permeia todos os aspectos de nossa vida digital: do filme indicado pela plataforma de streaming à otimização de percursos no transporte público de uma cidade inteira. Quais os desafios e riscos que esta nova tecnologia traz ao cidadão? A quem responsabilizar por danos causados por disfunções de uma conta matemática?

O estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”, realizado pelo consultor legislativo Claudio Nazareno, da Câmara dos Deputados, enfrenta essas questões, traça um panorama da regulamentação da inteligência artificial pelo mundo, apresenta leis brasileiras que se relacionam com a IA e analisa as principais propostas em discussão.

O que é a Inteligência Artificial?

Um método executado por máquinas que se
conectam a um grande banco de dados e que usam
regras e cálculos de probabilidade (os algoritmos)
para inferir respostas e ações plausíveis.

Principais desafios que surgem com a IA

Vies

  • Os códigos de computador que desenham a inteligência artificial são desenvolvidos por pessoas que têm preferências e características de comportamento, sociais e culturais próprias

  • Se a base de dados de um aplicativo é alimentada por pessoas com uma característica social, a resposta oferecida pelo sistema estará marcada por esse viés, eventualmente diferente da realidade do local do usuário

  • Como maior parte do conteúdo da internet está em inglês, opiniões anglófonas são mais apresentadas como verdade

  • Estudos mostram que algoritmos de predição de crimes têm viés racista

  • Ao tentar compensar isso, ferramentas IA podem ser “excessivamente politicamente corretas, pró-diversidade, etc”

Alucinações

  • É o nome que se dá quando algoritmo apresenta resposta totalmente inventada e irreal

  • Um advogado, nos EUA, fez uma petição com o ChatGPT, que citou casos e sentenças inexistentes

  • No Brasil, Conselho Nacional de Justiça investiga juiz que citou jurisprudência inventada pela IA

Erros Algorítimos

  • Carros autônomos ou com piloto automático tem se envolvidos em acidentes, inclusive fatais

  • Na Coreia do Sul um operário morreu esmagado por um robô que o confundiu com caixas de produtos

Como elaborar uma legislação sobre inteligência artificial que permita identificar erros e, eventualmente, punir responsáveis

Identificar responsáveis

Pelo direito civil, todo autor de ato ilícito (por ação, omissão voluntária, negligência ou imprudência) que causar dano é obrigado a repará-lo, independentemente de culpa

Código de Defesa do Consumidor estabelece responsabilidade solidária: toda a cadeia de fornecimento de um bem ou serviço são considerados responsáveis

Isso também vale quando serviço é intermediado pela internet e por inteligência artificial

Pelo direito civil, todo autor de ato ilícito (por ação, omissão voluntária, negligência ou imprudência) que causar dano é obrigado a repará-lo, independentemente de culpa

Mensurar Riscos

Há atividades com maior e menor risco: o autocompletar de um e-mail não tem o mesmo risco de uma cirurgia realizada remotamente

Legislação de IA comumente classificam as atividades em alto, médio e baixo risco e proíbem usos mais arriscados

Órgão fiscalizador

Legislação deve definir a quem compete regular a IA e como responsabilizar cada parte da cadeia envolvida

Principais desafios que surgem com a IA

Unesco

Recomendações sobre a Ética da Inteligência Artificial da Unesco (2023) e o respeito e proteção dos direitos e dignidades humanas

Unesco

Relatório do Corpo Consultivo de Alto-Nível em Inteligência Artificial (2024): além de não fazer o mal, o desenvolvimento da AI deve visar ao interesse público

Unesco

Recomendações sobre a Ética da Inteligência Artificial da Unesco (2023) e o respeito e proteção dos direitos e dignidades humanas

  • Fase final de redação da Lei da Inteligência Artificial: prevê aplicação de multas de até 35 milhões de euros ou 7% do volume de negócios globais. Implementação da Lei prevê a criação de um órgão transnacional, no âmbito da Comissão Europeia.

  • Proíbe uso de IA na classificação ou pontuação social, raspagem de dados biométricos ou faciais ou reconhecimento de emoções.

  • Permite uso de IA, com restrições, para identificação biomédica, avaliação educacional, avaliação de riscos de créditos e sistemas que influenciem eleições.

  • Obriga identificação quando houver uso de IA em deepfakes e robôs de resposta automática em chats.
Outras regulações

Países como EUA, Reino Unido, China, Japão e Rússia têm alguns regulamentos específicos e pontuais. Possuem cartas de princípios, mas não criaram órgão específico para fiscalizar,
mensurar riscos e responsabilidades.

Brasil: o que já existe

Lei Geral de Proteção de Dados Pessoais
LGPD (Lei nº 13.709/2018) regulamenta a forma como dados pessoais são tratados por governos e empresas, independente de ser via IA, tendo princípios como boa-fé, ter finalidade legítima, ser de livre acesso, transparente, não discriminatório, entre outros.

Resolução 23.732/2024 do Tribunal Superior Eleitoral 
determina novas regras para a  propaganda eleitoral e proíbe o uso de deep fakes, restringe o uso de chatbots e avatares e torna obrigatória a identificação de  conteúdos manipulados.

Legislações em discussão

Mais de 40 projetos de lei em discussão na Câmara, sendo dois os projetos principais:

1

PL 2338/2023 - versão original do Senado

  • Prevê possibilidade de solicitação de intervenção ou revisão humana em casos relevantes

  • Proíbe discriminação em decorrência do uso de dados sensíveis (raça, gênero, orientação sexual, etc.) ou de situações de vulnerabilidade

  • Estabelece responsabilização quando provedor causar dano patrimonial, moral, individual ou coletivo, obrigando a reparação integral

  • Prevê que culpa do causador do dano é presumida, com inversão do ônus da prova em favor da vítima.

  • Cria autoridade competente para fiscalização, com poder de aplicar sanções, que vão de advertência à suspensão temporária ou definitiva de desenvolvimento e operação de sistemas de IA e proibição de tratamento de bases de dados.

Define usos e autorizações:

Fornecedor ou operador responde objetivamente, na medida de sua participação

Proíbe uso de IA em:

  • Sistemas de pontuação social, quando multas ou sanções proíbem acesso a algum direito

  • Técnicas subliminares que causem comportamentos prejudiciais à saúde ou segurança

  • Aplicações que permitam a exploração de vulnerabilidades

É permitido uso de IA desde que como parte de sistema estruturado e documentado, com avaliação periódica e plano de governança que garanta direitos das pessoas envolvidas:

Avaliação de  candidatos na
área trabalhista

Acesso serviços essenciais e de seguridade

Classificação
de crédito

Resposta a serviço de  emergências

Administração
da justiça

Veículos autônomos

Saúde

Biometria

Classificação de crédito

Investigação em segurança  pública

Avaliação de provas em decurso de investigações

Imigração

1

PL 2338/2023 - versão original do Senado

  • Estabelece que o uso da IA deve seguir a LGPD

  • Deve objetivar a pesquisa ética, a competitividade, a inclusão e a cooperação.

  • Permite uso de IA desde que busque o benefício para as pessoas e o planeta, ter centralidade no ser humano, ser transparente e seguro.

  • Não prevê órgão de controle social.

Conheça na íntegra o estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”, do consultor legislativo Claudio Nazareno

Texto: Carolina Nogueira Arte: Thiago Fagundes – Rafael Teodoro – Agência Câmara de Notícias – 20/05/2024