A China registrou sua primeira prisão por uso indevido do ChatGPT. E no caso, um indivíduo identificado apenas como Hong foi detido pelas autoridades locais após ter usado a ferramenta de inteligência artificial da OpenAI para disseminar fake news sobre um acidente de trem.

Segundo as investigações, Hong usou uma série de contextos para forçar o ChatGPT a criar notícias falsas de um acidente de trem, que teria ocorrido em 25 de abril e supostamente matado nove pessoas. Estima-se que os textos foram publicado por 20 contas simultaneamente.

ChatGPT interna

Imagem: Ascannio/Shutterstock

As histórias ganharam repercussão e haviam atingido mais de 15 mil cliques quando chegaram ao conhecimento das autoridades. A polícia da província de Gansu, no noroeste da China, rastreou a origem do artigo e deparou-se com uma empresa de propriedade de Hong. Dez dias depois, a equipe revistou a casa de Hong, confiscou seu computador e o deteve.

O até então suspeito confessou ter ignorado a função de verificação de duplicação da rede social chinesa Baijiahao para publicar em várias contas que adquiriu. E isso permitiu que diversas fake news produzidas pelo ChatGPT criassem versões falsas na plataforma.

Como resultado, Hong foi enquadrado no crime de “provocar brigas e problemas” e tornou-se a primeira prisão registrada pelo uso da ferramenta de IA da OpenAI. A infração acarreta em pena máxima de cinco anos, mas pode chegar até 10 anos (além de penalidades adicionais) se o caso for considerado como grave.

ChatGPT não é bem visto na China, mas…

Vale ressaltar que a China vem expressando receios e suspeitas com o ChatGPT, especialmente por sua capacidade de gerar rumores, golpes ou difamação. A ferramenta até é proibida no país, mas o simples uso de uma conexão VPN é suficiente para driblar essa restrição.

Curiosamente, serviços similares de inteligência artificial estão em desenvolvimento no país. O “Tongyi Qianwen”, do Alibaba, trata-se de um modelo de IA generativa treinado para responder a perguntas em inglês e mandarim e até já recebeu a bênção do governo.

Não está claro, porém, se o serviço terá os mesmos potenciais criativos do ChatGPT. Mas a julgar a prisão recém-anunciada, é de se imaginar que muitas restrições farão parte do pacote.

Via: Cointelegraph

Comentários

0

Please give us your valuable comment

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Inscrever-se
Notificar de
0 Comentários
Feedbacks embutidos
Ver todos os comentários