China proíbe deepfakes sem identificação por marcas d’água

A criação de mídias alimentadas por inteligência artificial (IA) como deepfakes, que alteram dados faciais e voz, ganhará novas regras na China que entrarão em vigor a partir de 10 de janeiro, de acordo com o regulador Cyberspace Administration of China (CAC), que supervisiona a regulamentação, supervisão e censura da web no país.

A nova regulamentação emitida no domingo (11) prevê um exame mais rigoroso sobre o que o regulador chama de tecnologia de ‘síntese profunda’, tais produtos estarão sujeitos a uma avaliação de segurança por parte do governo, à conformidade com as novas regras antes de serem lançados, além da exigência de marcas d’água que denotem conteúdo gerado por IA.

Imagem: Rawpixel

Em uma publicação no site do Escritório Central da Comissão Central de Assuntos do Ciberespaço da China, o governo apontou que a razão por trás da emissão da regulamentação se deve a recente onda de textos, imagens, vozes e síntese de vídeos com uso de inteligência artificial.

Sob as novas regras, o CAC disse que o movimento visa conter riscos relacionados às atividades das plataformas (fornecedores de serviços de síntese profunda) que usam deep learning ou realidade virtual para alterar qualquer conteúdo online, além de promover o desenvolvimento saudável da indústria.

“Nos últimos anos, a tecnologia de síntese profunda se desenvolveu rapidamente. Ao mesmo tempo em que atende às necessidades dos usuários e melhora sua experiência, ela também tem sido utilizada por algumas pessoas inescrupulosas para produzir, copiar, publicar e disseminar informações ilegais e prejudiciais, para difamar e depreciar a reputação e a honra de outros, e para falsificar a identidade de outros. Cometer fraude, etc., afeta a ordem de comunicação e a ordem social, prejudica os legítimos direitos e interesses do povo e põe em risco a segurança nacional e a estabilidade social.

A introdução do “Regulamento” é uma necessidade de prevenir e resolver os riscos de segurança, e é também uma necessidade de promover o desenvolvimento saudável de serviços sintéticos em profundidade e melhorar o nível de capacidade de supervisão.”

Onda próxima da IA Generativa pode adulterar nosso senso de história

Nos últimos anos, empresas norte-americanas e chinesas têm liderado o boom na criação de aplicações alimentadas por IA. O Baidu, por exemplo, produziu recentemente um modelo de síntese de imagem similar ao DALL-E e Stable Diffusion.

Uma onda próxima de IA Generativa, que pode trazer desafios para governos, permitir fraudes ou mesmo adulterar nosso senso de história, será enfrentada por China e Estados Unidos, reconheceu recentemente um número crescente de especialistas em tecnologia.

No entanto, a reação das duas potências foi praticamente oposta até o momento. Ao contrário das restrições firmes do oriente, os norte-americanos têm optado por diretrizes não vinculativas.

Em 2019, a China já lançava suas primeiras regras sobre publicação de fake news não sinalizadas; a ilegalidade entrou em vigor no início de 2020.

Com informações Reuters e Ars Technica