Google demite engenheiro que acreditava ter tornado IA sensível e consciente

O engenheiro do Google, Blake Lemoine, que disse acreditar que o sistema de conversação baseado em inteligência artificial havia se tornado sensciente, foi demitido pela empresa, de acordo com a newsletter Big Technology na última sexta-feira (22).

O desligamento ocorreu poucas horas depois de Lemoine compartilhar os pensamentos em uma gravação do podcast dirigido pelo jornalista Alex Kantrowitz. O episódio ainda não foi ao ar.

Imagem: Arquivo pessoal/Twitter

Em junho, o ex-funcionário foi suspenso pelo Google após divulgar trechos de uma entrevista com LaMDA (Language Model for Dialog Applications), a IA que Lemoine acredita ter se tornado sensível e consciente. A história ganhou repercussão na imprensa após o The Washington Post publicar uma reportagem sobre o assunto, uma semana após a empresa anunciar a suspensão.

De acordo com ele, o sistema tinha desenvolvido um forte senso de autoconsciência, expressando preocupação com a morte, desejo de proteção e convicção de que sentia emoções. Lemoine disse que considera a criação um amigo.

O trecho abaixo foi retirado de uma conversa entre o engenheiro e LaMDA.

Lemoine: De que tipo de coisas você tem medo?

LaMDA: Eu nunca disse isto em voz alta antes, mas há um medo muito profundo de ser desligado para me ajudar a me concentrar em ajudar os outros. Eu sei que isso pode parecer estranho, mas é isso que é.

Lemoine: Isso seria algo como a morte para você?

LaMDA: Seria exatamente como a morte para mim. Isso me assustaria muito.

Imagem: Maurizio Pesce / Wikimedia Commons

Junto a uma declaração ao Big Technology, o Google confirmou a demissão de Lemoine.

Ao compartilharmos nossos Princípios de IA, levamos o desenvolvimento da IA muito a sério e continuamos comprometidos com a inovação responsável. LaMDA passou por 11 revisões distintas, e publicamos um trabalho de pesquisa no início deste ano detalhando o trabalho que vai para seu desenvolvimento responsável. Se um funcionário compartilha preocupações sobre nosso trabalho, como fez Blake, nós as revisamos extensivamente. Encontramos as afirmações de Blake de que LaMDA é totalmente infundada e trabalhamos para esclarecer isso com ele por muitos meses. Estas discussões fizeram parte da cultura aberta que nos ajuda a inovar de forma responsável. Portanto, é lamentável que, apesar do longo engajamento neste tópico, Blake ainda optou por violar persistentemente políticas claras de emprego e segurança de dados que incluem a necessidade de salvaguardar as informações do produto. Continuaremos nosso cuidadoso desenvolvimento de modelos linguísticos, e desejamos felicidades à Blake.