Do lado das categorias profissionais que possuem alto potencial de automação de tarefas, portanto com alta exposição ao uso da IA, o estudo apresenta quais ocupações sofreriam maior impacto. Sobre os ‘administrativos’, digitadores, agentes de viagens, centrais de atendimento, contabilidade, recepcionistas e outros. Na categoria de ‘profissionais’, o estudo destaca autores, bibliotecários e desenvolvedores de aplicações. Em ‘serviços e vendas’, vendedores de centrais. Entre os ‘técnicos’, os corretores de seguros e agentes financeiros e agentes públicos de autorizações e licenças.
Estudo analisa o desafio de regular a
INTELIGÊNCIA ARTIFICIAL
A inteligência artificial permeia todos os aspectos de nossa vida digital: do filme indicado pela plataforma de streaming à otimização de percursos no transporte público de uma cidade inteira. Quais os desafios e riscos que esta nova tecnologia traz ao cidadão? A quem responsabilizar por danos causados por disfunções de uma conta matemática?
O estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”, realizado pelo consultor legislativo Claudio Nazareno, da Câmara dos Deputados, enfrenta essas questões, traça um panorama da regulamentação da inteligência artificial pelo mundo, apresenta leis brasileiras que se relacionam com a IA e analisa as principais propostas em discussão.
O que é a Inteligência Artificial?
Um método executado por máquinas que se
conectam a um grande banco de dados e que usam
regras e cálculos de probabilidade (os algoritmos)
para inferir respostas e ações plausíveis.
Estudo analisa o desafio de regular a
INTELIGÊNCIA ARTIFICIAL
A inteligência artificial permeia todos os aspectos de nossa vida digital: do filme indicado pela plataforma de streaming à otimização de percursos no transporte público de uma cidade inteira. Quais os desafios e riscos que esta nova tecnologia traz ao cidadão? A quem responsabilizar por danos causados por disfunções de uma conta matemática?
O estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil”, realizado pelo consultor legislativo Claudio Nazareno, da Câmara dos Deputados, enfrenta essas questões, traça um panorama da regulamentação da inteligência artificial pelo mundo, apresenta leis brasileiras que se relacionam com a IA e analisa as principais propostas em discussão.
O que é a Inteligência Artificial?
Um método executado por máquinas que se conectam a um grande banco de dados e que usam regras e cálculos de probabilidade (os algoritmos) para inferir respostas e ações plausíveis.
Principais desafios que surgem com a IA
Viés
- Os códigos de computador que desenham a inteligência artificial são desenvolvidos por pessoas que têm preferências e características de comportamento, sociais e culturais próprias
- Se a base de dados de um aplicativo é alimentada por pessoas com uma característica social, a resposta oferecida pelo sistema estará marcada por esse viés, eventualmente diferente da realidade do local do usuário
- Como a maior parte do conteúdo da internet está em inglês, opiniões anglófonas são mais apresentadas como verdade
- Estudos mostram que algoritmos de predição de crimes têm viés racista
- Ao tentar compensar esses vieses, ferramentas IA podem ser “excessivamente politicamente corretas, pró-diversidade, etc”
Alucinações
- É o nome que se dá quando um algoritmo apresenta resposta totalmente inventada e irreal
- Um advogado, nos EUA, fez uma petição com o ChatGPT, que citou casos e sentenças inexistentes
- No Brasil, Conselho Nacional de Justiça investiga juiz que citou jurisprudência inventada pela IA
Erros algoritmos
- Carros autônomos ou com piloto automático têm se envolvidos em acidentes, inclusive fatais
- Na Coreia do Sul um operário morreu esmagado por um robô que o confundiu com caixas de produtos
Como elaborar uma legislação sobre inteligência artificial que permita identificar erros e, eventualmente, punir responsáveis
Identificar responsáveis
Pelo direito civil, todo autor de ato ilícito (por ação, omissão voluntária, negligência ou imprudência) que causar dano é obrigado a repará-lo, independentemente de culpa
Código de Defesa do Consumidor estabelece responsabilidade solidária: toda a cadeia de fornecimento de um bem ou serviço é considerada responsável
Isso também vale quando o serviço é intermediado pela internet e por inteligência artificial
No caso da IA, esta cadeia é longa: em um acidente com um carro autônomo, por exemplo, são muitas as variáveis para garantir
a responsabilização justa e segura dos diferentes elos da cadeia
Mensurar Riscos
Há atividades com maior e menor risco: o autocompletar de um e-mail não tem o mesmo risco de uma cirurgia realizada remotamente
Legislação de IA comumente classifica as atividades em alto, médio e baixo risco e proíbe usos mais arriscados
Órgão fiscalizador
Legislação determina a quem compete regular a IA e como responsabilizar cada parte da cadeia envolvida
Experiências internacionais
128 leis e cartas de princípios regulam IA no mundo
Unesco
Recomendações sobre a Ética da Inteligência Artificial da Unesco (2023) e o respeito e proteção dos direitos e dignidades humanas
ONU
Relatório do Corpo Consultivo de Alto-Nível em Inteligência Artificial (2024): além de não fazer o mal, o desenvolvimento da AI deve visar ao interesse público
União Europeia
Fase final de redação da Lei da Inteligência Artificial: prevê aplicação de multas de até 35 milhões de euros ou 7% do volume de negócios globais. Implementação da Lei prevê a criação de um órgão transnacional, no âmbito da Comissão Europeia
- Proíbe uso de IA na classificação ou pontuação social, raspagem de dados biométricos ou faciais ou reconhecimento de emoções.
- Permite uso de IA, com restrições, para identificação biométrica, avaliação educacional, avaliação de riscos de créditos e sistemas que influenciem eleições.
- Obriga identificação quando houver uso de IA em deepfakes e robôs de resposta automática em chats
Outras regulações
Países como EUA, Reino Unido, China, Japão e Rússia têm alguns regulamentos específicos e pontuais. Possuem cartas de princípios, mas não criaram órgão específico para fiscalizar,
mensurar riscos e responsabilidades
Impactos no mercado de trabalho
A Inteligência Artificial pode roubar empregos? Ou novas oportunidades serão criadas?
Otimistas
Pessimistas
Os ganhos de produtividade poderiam ser apropriados pelos trabalhadores, uma vez que a maior eficiência daria maior tempo livre para as pessoas, livraria os empregados de tarefas tediosas, repetitivas e, em alguns casos, até as perigosas.
A maior facilidade para execução de tarefas diminuiria a necessidade de especializações e aumentaria a empregabilidade das pessoas em geral.
A possibilidade de que a concentração dessas ferramentas em poucas empresas comerciais poderia resultar em um poder excessivo dessas na vida das pessoas e, por que não, de governos.
O aumento do desemprego ou a diminuição do salário para os especialistas, uma vez que pessoas menos capacitadas, cuja mão de obra seria mais barata, poderiam realizar as mesmastarefas.
Impactos no mercado de trabalho
A Inteligência Artificial pode roubar empregos? Ou novas oportunidades serão criadas?
Otimistas
Os ganhos de produtividade poderiam ser apropriados pelos trabalhadores, uma vez que a maior eficiência daria maior tempo livre para as pessoas, livraria os empregados de tarefas tediosas, repetitivas e, em alguns casos, até as perigosas.
A maior facilidade para execução de tarefas diminuiria a necessidade de especializações e aumentaria a empregabilidade das pessoas em geral.
Pessimistas
A possibilidade de que a concentração dessas ferramentas em poucas empresas comerciais poderia resultar em um poder excessivo dessas na vida das pessoas e, por que não, de governos.
O aumento do desemprego ou a diminuição do salário para os especialistas, uma vez que pessoas menos capacitadas, cuja mão de obra seria mais barata, poderiam realizar as mesmastarefas.
Tarefas com média e alta exposição à IA generativa, por categoria ocupacional
Brasil: o que já existe
Lei Geral de Proteção de Dados Pessoais
LGPD (Lei nº 13.709/2018) regulamenta a forma como dados pessoais são tratados por governos e empresas, independente de ser via IA, tendo princípios como boa-fé, ter finalidade legítima, ser de livre acesso, transparente, não discriminatório, entre outros.
Resolução 23.732/2024 do Tribunal Superior Eleitoral
determina novas regras para a propaganda eleitoral e proíbe o uso de deep fakes, restringe o uso de chatbots e avatares e torna obrigatória a identificação de conteúdos manipulados.
Legislações em discussão
Mais de 40 projetos de lei em discussão na Câmara, sendo dois os projetos principais:
1
PL 2338/2023 - versão original do Senado
- Prevê possibilidade de solicitação de intervenção ou revisão humana em casos relevantes
- Proíbe discriminação em decorrência do uso de dados sensíveis (raça, gênero, orientação sexual, etc.) ou de situações de vulnerabilidade
- Estabelece responsabilização quando provedor causar dano patrimonial, moral, individual ou coletivo, obrigando a reparação integral
- Prevê que culpa do causador do dano é presumida, com inversão do ônus da prova em favor da vítima
- Cria autoridade competente para fiscalização, com poder de aplicar sanções, que vão de advertência à suspensão temporária ou definitiva de desenvolvimento e operação de sistemas de IA e proibição de tratamento de bases de dados
Define usos e autorizações:
Fornecedor ou operador responde objetivamente, na medida de sua participação
Proíbe uso de IA em:
- Sistemas de pontuação social, quando multas ou sanções proíbem acesso a algum direito
- Técnicas subliminares que causem comportamentos prejudiciais à saúde ou segurança
- Aplicações que permitam a exploração de vulnerabilidades
É permitido o uso de IA desde que como parte de sistema estruturado e documentado, com avaliação periódica e plano de governança que garanta direitos das pessoas envolvidas:
Avaliação de candidatos na
área trabalhista
Acesso a serviços essenciais e de seguridade
Classificação
de crédito
Resposta a serviço de emergências
Administração
da justiça
Veículos autônomos
Saúde
Biometria
Classificação de crédito
Investigação em segurança pública
Avaliação de provas em decurso de investigações
Imigração
2
PL 21/2020 - versão aprovada no Senado e em análise na Câmara
- Não se aplica para fins particulares não econômicos, defesa nacional, pesquisas e testes pré-lançamento, moderação de conteúdo online;
- Estabelece diferentes atribuições e obrigações a desenvolver, distribuidor e aplicador de sistemas de IA;
- A ANPD é a autoridade competente, que deverá atuar de forma conjunta com autoridades reguladoras dos diversos setores da economia;
- Graus de riscos:
• avaliação preliminar para sistemas de IA generativa;
• serviços essenciais (por exemplo, serviços médicos) são considerados de alto risco;
• danos aos direitos fundamentais são considerados de risco excessivo e inaceitáveis (por exemplo ranqueamento de pessoas, armas autônomas).
- Previsto a revisão por humanos para sistemas de alto risco
- Agente de IA deve remunerar titulares de direitos autorais
- Poder Público deverá prover programas de capacitação para a população e suporte para profissionais impactados pela tecnologia
Conheça na íntegra o estudo “Regulação da Inteligência Artificial – experiências internacionais e desafios para o Brasil“, do consultor legislativo Claudio Nazareno
Inteligência Artificial e seu impacto no mercado de trabalho – uma análise introdutória, de Claudio Nazareno, Leonid Garnitskiy e Pedro Garrido
Texto: Carolina Nogueira Arte: Thiago Fagundes – Rafael Teodoro – Agência Câmara de Notícias – 03/06/2024