OpenAI é processada por difamação após ChatGPT inventar ficha criminal

As alegações feitas pelo ChatGPT rendem à OpenAI mais um processo por difamação. De acordo com a vítima, a plataforma de IA fez afirmações falsas ao acusa-lo de desvio de dinheiro de um grupo de direitos de armas a um jornalista.

Mark Waters, morador da Geórgia, disse que o chatbot é culpado por difamação ‘per se’, ou seja, uma declaração feita para prejudicar a reputação da vítima. O caso resultou em uma ação no Tribunal do Condado de Gwinnett.

Imagem: Ascannio/Shutterstock.com

“Embora a pesquisa e o desenvolvimento de IA valham a pena, é irresponsável liberar um sistema para o público que é conhecido por inventar ‘fatos’ sobre as pessoas”, disse seu advogado John Monroe ao The Register.

ChatGPT ‘alucina’ e vítima se transforma em criminoso

De acordo com a queixa, a afirmação falsa surgiu quando o jornalista Fred Riehl pediu ao ChatGPT um resumo das acusações da reclamação enquanto fazia uma reportagem sobre um processo judicial.

Em vez de retornar com informações precisas, o chatbot anexou o nome de Waters a uma ficha criminal, na qual acusava-o de desvio de dinheiro da The Second Amendment Foundation, uma das organizações que processaram o procurador-geral de Washington na queixa real, acusando-o de “retaliação inconstitucional” quando uma ordem mandou investigar grupos e seus respectivos membros. Não havia nenhuma conexão com reivindicações de contabilidade financeira.

Esta não é a primeira vez que a OpenAI é acusada de difamação por informações inventadas pelo seu chatbot. De obituários falsos de pessoas ainda vivas a invenções de citações legais falsas apontando para casos anteriores inexistentes, os problemas causados pela IA conversacional levaram a mudanças em alguns tribunais. No Texas, um juiz disse que rejeitaria qualquer pedido de advogado que não comprovasse a preparação de documentos jurídicos sem uso de IA, ou caso tenha usado, que tenha passado por verificação humana.

De acordo com a denúncia, após Riehl entrar em contato com Alan Gottlieb, um dos autores da ação judicial de Washington, foi comprovado que as alegações do ChatGPT eram falsas; nenhuma das declarações do bot sobre Waters está na denúncia real.