Embora uma declaração da Microsoft afirme que a empresa “está comprometida em desenvolver produtos e experiências de IA de forma segura e responsável, e o faz investindo em pessoas, processos e parcerias que priorizem isso”, o recente corte na equipe de ética e sociedade dentro da organização demonstra o contrário. Informações da Plataformer apontam que as demissões são parte da rodada mais recente que afetaram 10 mil funcionários da empresa de Redmond.

A mudança deixa a Microsoft sem uma equipe dedicada a garantir que os princípios de inteligência artificial estejam intimamente ligados ao projeto do produto, em um momento em que a empresa lidera a tarefa de disponibilizar ferramentas de inteligência artificial para o público geral, disseram os atuais e ex-funcionários.

“Nos últimos seis anos, aumentamos o número de pessoas em nossas equipes de produtos e dentro do Office of Responsible AI que, juntamente com todos nós da Microsoft, são responsáveis por garantir que colocamos em prática nossos princípios de AI. […] Apreciamos o trabalho pioneiro que a equipe de ética e sociedade fez para nos ajudar em nossa jornada contínua de IA responsável”, diz a empresa em uma declaração.

Embora a Microsoft afirme que o investimento geral em trabalho de responsabilidade esteja aumentando, a equipe de IA tem sofrido cortes sucessivamente. O auge ocorreu em 2020, quando a área especializada tinha cerca de 30 funcionários, entre eles engenheiros, designers e filósofos. Em outubro, a equipe foi reduzida para cerca de sete pessoas como parte de uma reorganização.

Microsoft demite equipe responsável por ética de IA

Imagem: Nið ricsað – Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=126514649

Em uma reunião após o corte, o vice-presidente corporativo da AI John Montgomery disse aos funcionários que os líderes da empresa os instruíram a trabalharem mais rapidamente. “A pressão de [CTO] Kevin [Scott] e [CEO] Satya [Nadella] é muito alta para pegar esses modelos mais recentes da IA aberta e os que vêm depois deles e colocá-los nas mãos dos clientes a uma velocidade muito alta”, disse ele, de acordo com o áudio da reunião obtido pela Platformer.

A pressão foi responsável pela transferência de grande parte da equipe para outras áreas da organização, com alguns deles recuando.

“Vou ser ousado o suficiente para pedir-lhe que reconsidere esta decisão”, disse um funcionário na chamada. “Embora eu entenda que há questões comerciais em jogo… o que esta equipe sempre esteve profundamente preocupada é como nós impactamos a sociedade e os impactos negativos que tivemos. E eles são significativos”.

Montgomery declinou. “Posso reconsiderar? Acho que não posso”, disse ele. “Porque infelizmente as pressões continuam as mesmas. Você não tem a visão que eu tenho, e provavelmente pode estar grato por isso. Há muita coisa em jogo”.

Lista de espera do Bate-papo do Bing

Imagem: reprodução/blog KaBuM!

Ao responder questões ligadas às demissões, Montgomery disse que a equipe não seria dispensada. “Não é que isso vai desaparecer – é que isso está evoluindo”, disse ele. “Está evoluindo para colocar mais energia nas equipes de produtos individuais que estão construindo os serviços e o software, o que significa que o núcleo central que tem feito parte do trabalho está devolvendo suas habilidades e responsabilidades”.

A maioria dos membros da equipe foi transferida para outro lugar dentro da Microsoft. Depois disso, os membros remanescentes da equipe ética e sociedade disseram que a equipe menor dificultou a implementação de seus ambiciosos planos.

Em 6 de março, uma reunião foi realizada com funcionários restantes para Montgomery informar uma “atualização crítica dos negócios”. Na ocasião, a equipe foi comunicada que seria finalmente eliminada.

Um funcionário diz que a mudança deixa uma lacuna fundamental na experiência do usuário e no design global dos produtos de IA. “O pior é que expusemos o negócio ao risco e os seres humanos ao risco ao fazer isso”, explicou.

Ética em IA e o real interesse da Microsoft

O conflito da Microsoft com a recente demissão da equipe responsável pela ética em IA levanta várias questões preocupantes quanto a tornar os produtos mais responsáveis socialmente.

Ela também é responsável pelo trabalho de negar ou mesmo desacelerar quando existe necessidade – o que as empresas com foco em rentabilidade não querem ouvir – além de antecipar às equipes de produtos possíveis usos indevidos da tecnologia e corrigir quaisquer problemas antes de despachar.

A atitude da Microsoft faz eco à queda de credibilidade em questões de IA responsável direcionada ao Google, quando em 2020 demitiu a pesquisadora ética em IA Timnit Gebru, após ela publicar um artigo crítico sobre os grandes modelos de linguagem que explodiriam em popularidade dois anos mais tarde.

Microsoft demite equipe responsável por ética em IA

Imagem: Microsoft

Membros da equipe de ética e sociedade disseram que geralmente tentavam apoiar o desenvolvimento de produtos. No entanto, à medida que a Microsoft se concentrava em lançar ferramentas de IA mais rapidamente que seus rivais, a liderança da empresa se tornou menos interessada no tipo de pensamento de longo prazo em que a equipe se especializou.

Quando a empresa relançou o Bing com IA, ela disse aos investidores que cada 1% de participação de mercado que pudesse tirar do Google em busca resultaria em US$ 2 bilhões em receita anual. Não à toa, tal potencial explica os US$ 11 bilhões investimentos na OpenAI até agora. Na semana passada, o motor de busca registrou 100 milhões de usuários ativos diariamente, sendo um terço deles novos usuários desde que o mecanismo de busca foi relançado com a tecnologia.

Todos os envolvidos no desenvolvimento da IA concordam que a tecnologia apresenta riscos potentes e possivelmente existenciais, tanto conhecidos como desconhecidos. Os gigantes da tecnologia têm se esforçado para sinalizar que estão levando esses riscos a sério – só a Microsoft tem três grupos diferentes trabalhando sobre o assunto, mesmo após a eliminação da equipe de ética e sociedade. No entanto, dado o que está em jogo, quaisquer cortes nas equipes focadas no trabalho responsável parecem dignos de nota.

Comentários

0

Please give us your valuable comment

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Inscrever-se
Notificar de
0 Comentários
Feedbacks embutidos
Ver todos os comentários