Inteligência Artificial: acordo provisório para lei é aprovado na Europa, mas divide opiniões

A União Europeia fez história nesta segunda-feira (11), oficializando a primeira regulamentação com foco na tecnologia de Inteligência Artificial (IA). Conhecida como AI Act, a nova lei prevê diretrizes para o uso de IA de maneira comercial e pública, mas as decisões ainda dividem opiniões.

“A Europa tornou-se o primeiro continente a estabelecer regras claras para a utilização da inteligência artificial. Ao garantir a segurança e os direitos fundamentais das pessoas e das empresas, [a lei] apoiará o desenvolvimento, a implantação e a adoção de uma IA confiável na UE”, escreveu a Comissão Europeia via X.

Europe has become the first continent to set clear rules for the use of artificial intelligence.

By guaranteeing the safety and fundamental rights of people and businesses, it will support the development, deployment and take-up of trustworthy AI in the EU.

Read more ↓

— European Commission (@EU_Commission) December 11, 2023

Na visão da espanhola Carme Artigas, secretária de estado para a Digitalização e Inteligência Artificial da UE, o trabalho realizado pelo corpo legislativo da organização conseguiu alcançar um equilíbrio, que ela caracterizou como “extremamente delicado”:

“Neste esforço, conseguimos manter um equilíbrio extremamente delicado: impulsionar a inovação e a adoção da inteligência artificial em toda a Europa, respeitando simultaneamente os direitos fundamentais dos nossos cidadãos”, afirmou ela, por meio de comunicado.

“Esta é uma conquista histórica e um grande marco rumo ao futuro! O acordo de hoje aborda de forma efetiva um desafio global em um ambiente tecnológico de rápida evolução, dentro de um área fundamental para o futuro das nossas sociedades e economias”, completou.

Na noite da sexta-feira (8), Thierry Breton já havia comemorado o fim das discussões do que ele afirmou que poderia ser “o último rascunho” do AI Act. Ele, que é Comissário da UE para Mercados Internos e também foi um dos responsáveis pela negociação para aprovação do AI Act, fez um post via X para registrar a conclusão das discussões sobre a legislação, que levaram três dias para serem finalizadas.

“Histórico! A UE torna-se o primeiro continente a estabelecer regras claras para a utilização da IA ​. O #AIAct é muito mais do que um livro de regras: é uma plataforma de lançamento para startups e pesquisadores da UE para liderarem a corrida global da IA. O melhor está por vir!”, afirmou.

Historic!

The EU becomes the very first continent to set clear rules for the use of AI ??

The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.

The best is yet to come! ? pic.twitter.com/W9rths31MU

— Thierry Breton (@ThierryBreton) December 8, 2023

Apesar da aprovação inicial do rascunho, as diretrizes ainda precisam passar pelo aval do Parlamento Europeu e também por aprovação do Conselho para poder, enfim, ser uma lei de fato. Por isso também, é provável que vejamos um esforço para votação antes das eleições da UE, que acontecem em junho de 2024.

Se concluído com sucesso, boa parte da legislação poderá entrar em vigor já a partir do próximo ano, com a maioria restante prevista para entrar em vigor entre 2025 e 2026.

Mas por que as opiniões seguem divididas sobre a lei da Inteligência Artificial?

Segundo a descrição oficial liberada pelo comunicado da UE, a ideia principal da regulamentação é estabelecer regras para o uso da IA “com base na capacidade dela [a tecnologia] de causar danos à sociedade, seguindo uma abordagem ‘baseada em risco’: quanto maior o risco, mais rigorosas são as regras”.

Vale lembrar que o primeiro rascunho sobre a lei entrou em discussão em 2021, mas pouco tempo depois houve o lançamento de tecnologias que mudaram consideravelmente as aplicações para a IA – dentre elas, o ChatGPT, oficialmente liberado em novembro de 2022. Assim, o rascunho inicial precisou ser reescrito para abarcar tais mudanças e chegar ao consenso atual.

A Lei de IA de agora prevê também a implantação de requisitos de transparência para os desenvolvedores por trás desses sistemas de IA de uso geral, baseado em um modelo de linguagem grande (Large Language Model – ou apenas LLM, na sigla em inglês). Para as empresas que violarem os regulamentos de transparência, poderão arcar com multas que podem chegar a até 7% do total de seu faturamento global.

Até por isso, espera-se também que as organizações que poderão ser afetadas diretamente pela legislação se pronunciem nos próximos dias – ou seja, uma das partes que deve dividir o embate sobre a regulamentação.

Imagem: Trismegist san/shutterstock.com

“As empresas que investem fortemente em tecnologias agora consideradas proibidas, como a categorização biométrica e o reconhecimento de emoções, podem enfrentar a necessidade de grandes mudanças estratégicas. Além disso, os requisitos reforçados de transparência podem desafiar a proteção da propriedade intelectual, necessitando um equilíbrio entre a divulgação e a manutenção de segredos comerciais”, disse o advogado Barry Scannell, especialista jurídico em IA baseado na Irlanda e parte do escritório William Fry.

A Associação da Indústria de Computadores e Comunicações na Europa (CCIA) também se pronunciou após a aprovação do acordo político provisório, afirmando que o resultado soou como algo que a “legislação da IA à prova de futuro foi sacrificada por um acordo rápido”. A CCIA é uma organização que representa um grupo de empresas provedoras de serviços de Internet, software e telecomunicações, incluindo as gigantes Amazon, Apple e Google.

“A Associação da Indústria de Computadores e Comunicações (CCIA-Europe) reconhece o trabalho árduo dos colegisladores, mas lamenta a ausência de discussões aprofundadas sobre muitas partes críticas”, enfatizou a organização por meio de comunicado, complementando que o acordo “carece de detalhes importantes”.

“O acordo traz uma série de melhorias bem-vindas ao texto inicial, como a possibilidade de os desenvolvedores demonstrarem que um sistema não representa um risco elevado. Infelizmente, porém, o texto final afasta-se em grande parte da abordagem sensata baseada em risco proposta pela Comissão, que priorizada a inovação em detrimento da regulamentação excessivamente prescritiva”, argumentou a CCIA.

Para a organização, o novo texto para o AI Act foge tanto da proposta inicial que pode ser um risco em termos de mercado, por conta das “obrigações rigorosas” que passarão a ser impostas aos provedores de tecnologias, os quais são responsáveis pela criação das tecnologias de inovação que sustentam os sistemas e “portanto, é provável que atrase a inovação na Europa”.

A CCIA salienta, nesse sentido, que “certos sistemas de IA de baixo risco” enfrentarão uma série de requisitos que eles julgam “rigorosos e sem qualquer justificativa”, ao passo que outros sistemas sequer poderão existir, porque “serão totalmente proibidos”.

“Isto poderá levar a um êxodo de empresas europeias de IA e de talentos que irão procurar crescer noutros locais”, observou.

Enquanto do ponto de vista das empresas a nova lei pode ser uma barreira para a inovação, do lado dos direitos civis a história é outra: a nova legislação não abraça proteção suficiente para as pessoas.

“As três instituições europeias – Comissão, Conselho e Parlamento – deram sinal verde à vigilância digital distópica nos 27 Estados-Membros da UE, estabelecendo um precedente devastador a nível mundial no que diz respeito à regulamentação da inteligência artificial (IA)”, afirmou Mher Hakobyan, consultor de defesa da IA ​​para o grupo de direitos humanos Amnistia Internacional.

Para o especialista, o fato de as diretrizes não proibirem por completo o reconhecimento facial abre um precedente preocupante, além de dar abertura à vigilância sem limites. Hakobyan afirma, ainda, que esta foi uma “oportunidade enormemente perdida para barrar e prevenir danos colossais aos direitos humanos, ao espaço cívico e ao Estado de direito que já estão ameaçados em toda a UE”.

“É decepcionante ver o Parlamento Europeu sucumbir à pressão dos Estados-Membros para se afastar da sua posição original, que oferecia fortes proteções, incluindo uma proibição incondicional do reconhecimento facial em tempo real. Embora os proponentes argumentem que o projeto permite apenas um uso limitado do reconhecimento facial e sujeito a salvaguardas, a investigação da Amnistia na cidade de Nova Iorque, nos Territórios Palestinos Ocupados, em Hyderabad [na Índia] e noutros locais demonstra que nenhuma salvaguarda pode prevenir os danos aos direitos humanos que o reconhecimento facial inflige, razão pela qual é necessária uma proibição total”, defendeu o especialista, por meio de comunicado oficial.

Por fim, ele ressalta que “permitir que as empresas europeias lucrem com tecnologias que a lei reconhece que prejudicam inadmissivelmente os direitos humanos nos seus estados de origem estabelece um perigoso duplo padrão” na aplicação da lei.

Via Conselho da UE, CCIA, Amnistia Internacional, Hollywood Reporter