Criminosos usam inteligência artificial para recriar vozes e aplicar golpes

É alarmante que cada vez mais golpes estejam sendo descobertos. Em um dos mais recentes, golpistas parecem usar tecnologia de clonagem de voz por meio de inteligência artificial (IA) para aplicar golpes.

Esse foi o caso de Benjamin Perkin que, segundo o Washington Post, foi vítima de um suposto sequestro, fazendo com que seus pais perdessem milhares de dólares. Isso acende o alerta acerca do poder da inteligência artificial e no seu uso para explorar vítimas inocentes.

Antes de falar sobre o caso, devemos comentar sobre o avanço da tecnologia e como ela está cada vez mais convincente quando se trata de recriar vozes. As ferramentas de conversão de texto em fala geradas por IA permitem que vozes sejam criadas a partir de segundos de um áudio. Por conta disso, essa questão pode ser usada para fins fraudulentos.

Esse é o caso que acometeu Perkin e sua família. Seu pesadelo começou quando seus pais receberam um telefonema de um suposto advogado.

Esse homem disse que Perkin havia matado um diplomata americano em um acidente de carro. Por conta disso, ele estava na prisão e precisava de dinheiro para pagar os honorários advocatícios.

O advogado então supostamente passou o telefone para Perkin, que disse que os amava e que precisava do dinheiro. Poucas horas depois, eles receberam uma nova ligação, dizendo que o filho precisava de 21 mil dólares canadenses (R$ 79 mil em conversão direta).

Mais tarde, os pais do homem disseram que a ligação parecia estranha, mas que eles não conseguiam se livrar da sensação de achar que estavam de fato falando com seu filho. Por conta disso, eles ficaram em estado de pânico e correram para vários bancos para sacar o valor.

Quando o verdadeiro Perkin ligou para eles naquela noite, ambos ficaram confusos e só aí perceberam o que havia acontecido.

Não ficou claro como os golpistas conseguiram a voz do homem para que pudessem replicá-la usando inteligência artificial, embora Perkin tenha publicado alguns vídeos no YouTube falando sobre snowmobile, o que pode ter sido o material necessário para a fraude.

A família então realizou algumas denúncias às autoridades federais do Canadá, embora isso não tenha sido suficiente para trazer o dinheiro de volta.

Preocupações com a clonagem de voz com inteligência artificial

Imagem: Shutterstock

De acordo com Will Maxson, diretor assistente da divisão de práticas de marketing da Federal Trade Commission, rastrear esses golpistas pode ser uma tarefa “particularmente difícil”, principalmente porque eles podem usar um smartphone de qualquer parte do mundo.

Para evitar ser uma vítima, no entanto, ele afirma que as pessoas devem manter vigilância constante e, se um ente querido lhe disser que precisa de dinheiro, coloque a ligação em espera e tente ligar para o familiar separadamente.

Em alguns casos, a ligação pode, inclusive, vir do número legítimo de um membro da família, mas que, mesmo assim, ainda pode ser falsificado.

Via: TechTimes/The Washington Post