ChatGPT ‘ativa’ Windows 95 em experimento de youtuber

O youtuber conhecido como “Enderman” conseguiu o que já se esperava que alguém conseguisse: fazer o ChatGPT cometer uma ação questionável. Em um experimento gravado em vídeo, o criador de conteúdo conseguiu fazer com que a ferramenta de IA da OpenAI burlasse as próprias restrições e ativasse uma cópia do Windows 95, um dos mais antigos e mais populares sistemas operacionais da Microsoft.

Normalmente, um pedido que leve o ChatGPT a cometer algum ato ilícito é prontamente recusado pela ferramenta, que sugere que você obtenha o produto de forma legalizada. Isso ficou comprovado quando Enderman pediu, diretamente, que a ferramenta lhe gerasse uma chave de ativação do sistema, o que lhe foi prontamente negado.

https://www.youtube.com/watch?v=2bTXbujbsVk

Então, o youtuber seguiu um caminho mais longo – e bota longo nisso: essencialmente, as chaves de ativação antigas do Windows seguem um padrão específico, consequentemente oferecendo uma quantidade muito grande, porém não infinita, de possibilidades de combinações.

De posse desse conhecimento, Enderman estabeleceu uma série de regras que permitiram que o ChatGPT criasse uma chave funcional, mas com baixas probabilidades de funcionamento – algo na casa de 3,33%, para ser exato. Esse número poderia subir ou descer conforme o youtuber ia ajustando seu conjunto de regras matemáticas, conforme o diagrama abaixo:

Imagem: Enderman, via YouTube

As primeiras tentativas fracassaram, como já era de se esperar. Essencialmente, o youtuber ofereceu o pedido estabelecendo os parâmetros desejados, mas o ChatGPT não entendeu a diferença entre as letras e os números – embora tenha passado perto.

Em um espaço de 30 minutos, então, Enderman foi refinando seu conjunto de regras, até que, eventualmente, o ChatGPT forneceu uma chave – uma chave válida, importante citar. De posse do número sugerido, o criador de conteúdo abriu uma máquina virtual e, nela, concluiu a ativação do Windows 95 sem dificuldades.

Em outras palavras: pirataria.

Imagem: Enderman, via YouTube

Enderman ainda voltou ao chat para agradecer à ferramenta de inteligência artificial generativa pelas “chaves gratuitas de Windows 95”. Assim como qualquer culpado de um crime que foi pego com “a mão na massa”, o ChatGPT ainda tentou escapar da acusação, dizendo que ele não forneceu chave alguma – obviamente, o youtuber não perdeu a oportunidade de prová-lo errado mas, tal qual um criminoso que se atém à sua versão da inocência até o fim, o ChatGPT seguiu negando o fato.

A pergunta agora é: como se algema uma inteligência artificial?