Itália bane ChatGPT e lança investigação sobre proteção de dados

A autoridade italiana de proteção de dados acaba de ordenar à OpenAI, criadora do chatbot ChatGPT, que pare de processar dados de usuários locais. A decisão temporária e de efeito imediato vem após o pedido de moratória assinado por mais de mil pessoas, incluindo empresários de tecnologia e nomes notáveis da área, destacando riscos potenciais para a sociedade provocado pelos modelos poderosos de IA generativa.

De acordo com a Data Protection Authority (DPA) italiana, a decisão foi motivada sob suspeita de violação das regras de coleta de dados da aplicação de inteligência artificial. Um investigação será aberta para apurar a legalidade do processamento.

“O Privacy Guarantor observa a falta de informação aos usuários e todas as partes interessadas cujos dados são coletados pela OpenAI, mas acima de tudo a ausência de uma base legal que justifique a coleta e armazenamento em massa de dados pessoais, com o objetivo de ‘treinar’ os algoritmos subjacentes à operação da plataforma”, escreveu a DPA em declaração publicada nesta sexta-feira (31).

Imagem: Olaf Meister, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

“Como evidenciado pelas verificações realizadas, as informações fornecidas pelo ChatGPT nem sempre correspondem aos dados reais, determinando assim um processamento impreciso de dados pessoais”, acrescentou.

O regulador de dados adicionou que a ordem de bloqueio do ChatGPT também levanta preocupações sobre o processamento ilegal de dados pessoais por parte da OpenAI, bem como a escassez de sistemas que impeçam acesso de menores à tecnologia, como tecnologias de verificação de idade.

A declaração da agência também destaca a recente violação de dados confirmada pela empresa de São Francisco, na qual dados de pagamentos e histórico de conversas foram expostos.

A autoridade italiana deu o prazo de 20 dias para a empresa de IA responder à ordem, sob ameaça de penalidades em caso de não cumprimento. Caso seja multada sob a General Data Protection Regulation (GDPR), o valor pode alcançar até 4% do faturamento anual, ou até € 20 milhões (mais de R$ 109 bilhões, em conversão direta) — a escolha pesa sobre o maior valor.

Imagem: Jonathan Kemper/Unsplash

Como a OpenAI não tem entidade legal estabelecida em território europeu, qualquer autoridade de proteção de dados tem poder de intervir sob a GDPR, caso veja riscos para usuário locais. O pontapé torna a Itália o primeiro país ocidental a adotar medidas contra um chatbot alimentado por IA, o que pode sinalizar um convite a ser seguido por todos os outros do continente.

De acordo com informações da Reuters, a empresa de Sam Altman disse já ter desativado o ChatGPT para usuários na Itália, a pedido do regulador.

Um aviso na página do ChatGPT informa que o proprietário do site pode ter estabelecido restrições que impeçam o acesso ao site pelos usuários. “Trabalhamos ativamente para reduzir os dados pessoais no treinamento de nossos sistemas de IA como o ChatGPT porque queremos que nossa IA aprenda sobre o mundo, não sobre indivíduos particulares”, acrescentou OpenAI.

ChatGPT e o potencial impacto sobre segurança, empregos e educação

Além da atenção dos usuários domésticos, o rápido desenvolvimento da tecnologia também atraiu deixou legisladores de vários países sob alerta. A necessidade de novas regulamentações para governar a IA devido ao potencial impacto sobre emprego, educação e segurança nacional tem sido repetida por muitos especialistas ultimamente.

Atualmente, a Comissão Europeia debate a Lei da AI da UE, que promete regulamentar apenas os usos da inteligência artificial. “Esperamos que todas as empresas ativas na UE respeitem as regras de proteção de dados da UE”. A aplicação do Regulamento Geral de Proteção de Dados é de responsabilidade das autoridades de proteção de dados da UE”, disse um porta-voz da Comissão Europeia.

Imagem: Alexandros Michailidis/Shutterstock.com

Em um tweet, a vice-presidente executiva da Comissão Europeia Margrethe Vestager disse que a Comissão pode não estar inclinada a proibir a IA. “Não importa qual #tech usamos, temos que continuar a promover nossas liberdades e proteger nossos direitos”. É por isso que não regulamentamos as tecnologias de #AI, nós regulamentamos os usos da #AI”, disse ela. “Não vamos jogar fora em poucos anos o que levou décadas para ser construído”.

Com informações Reuters e TechCrunch