Grupo de ética pede que FTC impeça OpenAI de lançar novas versões comerciais do GPT

O Center for AI and Digital Policy (CAIDP), grupo de ética tecnológica com foco em inteligência artificial, apresentou uma queixa argumentando que o GPT-4 viola as regras da Comissão Federal de Comércio (FTC) contra práticas desleais e enganosas.

O grupo pede à Comissão para investigar a OpenAI por violar as regras de proteção ao consumidor, argumentando que o lançamento pela organização de ferramentas de geração de texto de IA tem sido “tendencioso, enganoso e um risco para a segurança pública”.

A queixa apresentada nesta quinta-feira (30) vem após a publicação de uma carta aberta assinada por grandes nomes da área e empresários de tecnologia pedindo uma pausa em grandes experimentos generativos de IA. O presidente do CAIDP Marc Rotenberg foi um dos signatários do documento, juntamente com vários pesquisadores de IA e o cofundador do OpenAI, Elon Musk. Semelhante a essa carta, a reclamação pede que se retarde o desenvolvimento de modelos de IA generativa e se implemente uma supervisão mais rigorosa do governo.

Imagem: Zac Wolff/Unsplash

A reclamação da CAIDP aponta ameaças potenciais do modelo de texto generativo GPT-4 da OpenAI, que foi anunciado em meados de março. Eles incluem maneiras que o GPT-4 poderia produzir código malicioso e propaganda altamente personalizada, bem como maneiras que dados de treinamento tendenciosos poderiam resultar em estereótipos ou preferências injustas de raça e gênero em coisas como contratações. Também aponta falhas significativas de privacidade com a interface do produto OpenAI – como um bug recente que expôs o histórico do ChatGPT e possivelmente detalhes de pagamento a outros usuários.

OpenAI notou abertamente ameaças potenciais da geração de texto AI, mas o CAIDP argumenta que o GPT-4 cruza uma linha de danos ao consumidor que deveria atrair ações regulatórias. Ela procura responsabilizar o OpenAI por violar a Seção 5 da lei da FTC, que proíbe práticas comerciais desleais e enganosas. “O OpenAI divulgou o GPT-4 ao público para uso comercial com pleno conhecimento desses riscos”, incluindo possíveis preconceitos e comportamentos prejudiciais, as reivindicações da reclamação. Ele também define alucinações de IA, ou o fenômeno de modelos generativos que, confiantemente, compõem fatos inexistentes, como uma forma de engano. “ChatGPT promoverá declarações comerciais e publicidade enganosas”, adverte – potencialmente colocando a questão sob a alçada da FTC.

Imagem: Nið ricsað – Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=126514649

Na reclamação, a CAIDP pede à FTC que interrompa qualquer outra implantação comercial de modelos GPT e exija avaliações independentes dos modelos antes de qualquer implantação futura. Ela também pede uma ferramenta de relatório acessível ao público semelhante à que permite aos consumidores apresentar queixas por fraude. E busca uma regulamentação firme sobre as regras da FTC para sistemas de IA generativos, com base na pesquisa e avaliação contínua, mas ainda relativamente informal, das ferramentas de IA da agência.

Como observado pela CAIDP, a FTC expressou interesse em regular as ferramentas de IA. Foi advertido nos últimos anos que sistemas de IA tendenciosos poderiam atrair ações de fiscalização, e em um evento conjunto esta semana com o Departamento de Justiça, a presidente da FTC, Lina Khan, disse que a agência estaria procurando por sinais de grandes empresas de tecnologia incumbentes tentando bloquear a concorrência. Mas uma investigação da OpenAI – um dos principais atores na generativa corrida armamentista de IA – marcaria uma grande escalada em seus esforços.

Com informações Reuters e The Verge