China prende indivíduo acusado de usar ChatGPT para disseminar fake news
Primeiro preso registrado no país por uso indevido do ChatGPT, Hong usou a ferramenta para criar notícias falsas de um acidente de tremBy - Igor Shimabukuro, 9 maio 2023 às 10:22
A China registrou sua primeira prisão por uso indevido do ChatGPT. E no caso, um indivíduo identificado apenas como Hong foi detido pelas autoridades locais após ter usado a ferramenta de inteligência artificial da OpenAI para disseminar fake news sobre um acidente de trem.
Segundo as investigações, Hong usou uma série de contextos para forçar o ChatGPT a criar notícias falsas de um acidente de trem, que teria ocorrido em 25 de abril e supostamente matado nove pessoas. Estima-se que os textos foram publicado por 20 contas simultaneamente.
Imagem: Ascannio/Shutterstock
As histórias ganharam repercussão e haviam atingido mais de 15 mil cliques quando chegaram ao conhecimento das autoridades. A polícia da província de Gansu, no noroeste da China, rastreou a origem do artigo e deparou-se com uma empresa de propriedade de Hong. Dez dias depois, a equipe revistou a casa de Hong, confiscou seu computador e o deteve.
O até então suspeito confessou ter ignorado a função de verificação de duplicação da rede social chinesa Baijiahao para publicar em várias contas que adquiriu. E isso permitiu que diversas fake news produzidas pelo ChatGPT criassem versões falsas na plataforma.
Como resultado, Hong foi enquadrado no crime de “provocar brigas e problemas” e tornou-se a primeira prisão registrada pelo uso da ferramenta de IA da OpenAI. A infração acarreta em pena máxima de cinco anos, mas pode chegar até 10 anos (além de penalidades adicionais) se o caso for considerado como grave.
ChatGPT não é bem visto na China, mas…
Vale ressaltar que a China vem expressando receios e suspeitas com o ChatGPT, especialmente por sua capacidade de gerar rumores, golpes ou difamação. A ferramenta até é proibida no país, mas o simples uso de uma conexão VPN é suficiente para driblar essa restrição.
Curiosamente, serviços similares de inteligência artificial estão em desenvolvimento no país. O “Tongyi Qianwen”, do Alibaba, trata-se de um modelo de IA generativa treinado para responder a perguntas em inglês e mandarim e até já recebeu a bênção do governo.
Não está claro, porém, se o serviço terá os mesmos potenciais criativos do ChatGPT. Mas a julgar a prisão recém-anunciada, é de se imaginar que muitas restrições farão parte do pacote.
Via: Cointelegraph
Comentários