Microsoft demite equipe responsável por ética em IA

Embora uma declaração da Microsoft afirme que a empresa “está comprometida em desenvolver produtos e experiências de IA de forma segura e responsável, e o faz investindo em pessoas, processos e parcerias que priorizem isso”, o recente corte na equipe de ética e sociedade dentro da organização demonstra o contrário. Informações da Plataformer apontam que as demissões são parte da rodada mais recente que afetaram 10 mil funcionários da empresa de Redmond.

A mudança deixa a Microsoft sem uma equipe dedicada a garantir que os princípios de inteligência artificial estejam intimamente ligados ao projeto do produto, em um momento em que a empresa lidera a tarefa de disponibilizar ferramentas de inteligência artificial para o público geral, disseram os atuais e ex-funcionários.

“Nos últimos seis anos, aumentamos o número de pessoas em nossas equipes de produtos e dentro do Office of Responsible AI que, juntamente com todos nós da Microsoft, são responsáveis por garantir que colocamos em prática nossos princípios de AI. […] Apreciamos o trabalho pioneiro que a equipe de ética e sociedade fez para nos ajudar em nossa jornada contínua de IA responsável”, diz a empresa em uma declaração.

Embora a Microsoft afirme que o investimento geral em trabalho de responsabilidade esteja aumentando, a equipe de IA tem sofrido cortes sucessivamente. O auge ocorreu em 2020, quando a área especializada tinha cerca de 30 funcionários, entre eles engenheiros, designers e filósofos. Em outubro, a equipe foi reduzida para cerca de sete pessoas como parte de uma reorganização.

Imagem: Nið ricsað – Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=126514649

Em uma reunião após o corte, o vice-presidente corporativo da AI John Montgomery disse aos funcionários que os líderes da empresa os instruíram a trabalharem mais rapidamente. “A pressão de [CTO] Kevin [Scott] e [CEO] Satya [Nadella] é muito alta para pegar esses modelos mais recentes da IA aberta e os que vêm depois deles e colocá-los nas mãos dos clientes a uma velocidade muito alta”, disse ele, de acordo com o áudio da reunião obtido pela Platformer.

A pressão foi responsável pela transferência de grande parte da equipe para outras áreas da organização, com alguns deles recuando.

“Vou ser ousado o suficiente para pedir-lhe que reconsidere esta decisão”, disse um funcionário na chamada. “Embora eu entenda que há questões comerciais em jogo… o que esta equipe sempre esteve profundamente preocupada é como nós impactamos a sociedade e os impactos negativos que tivemos. E eles são significativos”.

Montgomery declinou. “Posso reconsiderar? Acho que não posso”, disse ele. “Porque infelizmente as pressões continuam as mesmas. Você não tem a visão que eu tenho, e provavelmente pode estar grato por isso. Há muita coisa em jogo”.

Imagem: reprodução/blog KaBuM!

Ao responder questões ligadas às demissões, Montgomery disse que a equipe não seria dispensada. “Não é que isso vai desaparecer – é que isso está evoluindo”, disse ele. “Está evoluindo para colocar mais energia nas equipes de produtos individuais que estão construindo os serviços e o software, o que significa que o núcleo central que tem feito parte do trabalho está devolvendo suas habilidades e responsabilidades”.

A maioria dos membros da equipe foi transferida para outro lugar dentro da Microsoft. Depois disso, os membros remanescentes da equipe ética e sociedade disseram que a equipe menor dificultou a implementação de seus ambiciosos planos.

Em 6 de março, uma reunião foi realizada com funcionários restantes para Montgomery informar uma “atualização crítica dos negócios”. Na ocasião, a equipe foi comunicada que seria finalmente eliminada.

Um funcionário diz que a mudança deixa uma lacuna fundamental na experiência do usuário e no design global dos produtos de IA. “O pior é que expusemos o negócio ao risco e os seres humanos ao risco ao fazer isso”, explicou.

Ética em IA e o real interesse da Microsoft

O conflito da Microsoft com a recente demissão da equipe responsável pela ética em IA levanta várias questões preocupantes quanto a tornar os produtos mais responsáveis socialmente.

Ela também é responsável pelo trabalho de negar ou mesmo desacelerar quando existe necessidade – o que as empresas com foco em rentabilidade não querem ouvir – além de antecipar às equipes de produtos possíveis usos indevidos da tecnologia e corrigir quaisquer problemas antes de despachar.

A atitude da Microsoft faz eco à queda de credibilidade em questões de IA responsável direcionada ao Google, quando em 2020 demitiu a pesquisadora ética em IA Timnit Gebru, após ela publicar um artigo crítico sobre os grandes modelos de linguagem que explodiriam em popularidade dois anos mais tarde.

Imagem: Microsoft

Membros da equipe de ética e sociedade disseram que geralmente tentavam apoiar o desenvolvimento de produtos. No entanto, à medida que a Microsoft se concentrava em lançar ferramentas de IA mais rapidamente que seus rivais, a liderança da empresa se tornou menos interessada no tipo de pensamento de longo prazo em que a equipe se especializou.

Quando a empresa relançou o Bing com IA, ela disse aos investidores que cada 1% de participação de mercado que pudesse tirar do Google em busca resultaria em US$ 2 bilhões em receita anual. Não à toa, tal potencial explica os US$ 11 bilhões investimentos na OpenAI até agora. Na semana passada, o motor de busca registrou 100 milhões de usuários ativos diariamente, sendo um terço deles novos usuários desde que o mecanismo de busca foi relançado com a tecnologia.

Todos os envolvidos no desenvolvimento da IA concordam que a tecnologia apresenta riscos potentes e possivelmente existenciais, tanto conhecidos como desconhecidos. Os gigantes da tecnologia têm se esforçado para sinalizar que estão levando esses riscos a sério – só a Microsoft tem três grupos diferentes trabalhando sobre o assunto, mesmo após a eliminação da equipe de ética e sociedade. No entanto, dado o que está em jogo, quaisquer cortes nas equipes focadas no trabalho responsável parecem dignos de nota.