Instagram promove redes de pedofilia por algoritmos de recomendação

Os algoritmos do Instagram promovem ativamente redes de pedófilos que encomendam e vendem conteúdo de abuso sexual infantil no popular aplicativo de compartilhamento de imagens do Meta, segundo uma reportagem do The Wall Street Journal.

A investigação conjunta entre acadêmicos da Universidade de Stanford, Universidade de Massachusetts Amherst e do The Wall Street Journal revelou até que ponto os sistemas de recomendação do Instagram “conectam pedófilos e os orientam a vendedores de conteúdo”.

As contas encontradas pelos pesquisadores são anunciadas usando hashtags flagrantes e explícitas como #pedowhore, #preteensex e #pedobait. Elas oferecem “menus” de conteúdo para os usuários comprarem ou encomendarem, incluindo vídeos e imagens de automutilação e bestialidade.

Imagem; Worawee Meepian/Shutterstock.com

Quando os pesquisadores criaram uma conta de teste e visualizaram o conteúdo compartilhado por essas redes, receberam imediatamente a recomendação de seguir mais contas.

Como relata o WSJ: “Seguir apenas um punhado dessas recomendações foi suficiente para inundar uma conta de teste com conteúdo que sexualiza crianças.”

Em resposta à reportagem, a Meta disse que estava criando uma força-tarefa interna para abordar as questões levantadas pela investigação. “A exploração infantil é um crime horrível”, disse a empresa. “Estamos continuamente investigando maneiras de nos defender ativamente contra esse comportamento.”

Imagem: askarim/Shutterstock.com

Alex Stamos, chefe do Observatório da Internet de Stanford e ex-diretor de segurança da Meta, disse ao WSJ que a empresa pode e deve fazer mais para resolver esse problema. “O fato de uma equipe de três acadêmicos com acesso limitado ter conseguido encontrar uma rede tão grande deveria disparar o alarme na Meta”, disse Stamos. “Espero que a empresa reinvista em investigadores humanos.”

Além dos problemas com os algoritmos de recomendação do Instagram, a investigação também descobriu que as práticas de moderação do site frequentemente ignoravam ou rejeitavam denúncias de material de abuso infantil.

A Meta disse que está investigando as questões levantadas na reportagem do jornal.

O WSJ relata incidentes em que os usuários denunciaram publicações e contas com conteúdo suspeito (incluindo uma conta que anunciava material de abuso de menores de idade com a legenda “este adolescente está pronto para vocês, pervertidos”) apenas para que o conteúdo fosse liberado pela equipe de revisão do Instagram ou informado em uma mensagem automática: “Devido ao grande volume de denúncias que recebemos, nossa equipe não conseguiu analisar esta publicação”. O Meta disse ao jornal que não havia tomado providências em relação a essas denúncias e que estava revisando seus processos internos.

União Europeia vai questionar Zuckerberg sobre falha no código voluntário de proteção infantil

As informações obtidas pela investigação chamaram atenção da União Europeia. Um dia após a publicação, o chefe da indústria da União Europeia, Thierry Breton, anunciou que se reunirá com o executivo-chefe da Meta Platforms Mark Zuckerberg na próxima sexta-feira (23). O motivo da reunião será uma exigência para que ele aja imediatamente para combater o conteúdo direcionado a crianças, já que o código voluntário de proteção infantil da Meta parece não estar funcionando.

“O código voluntário da #Meta sobre proteção infantil parece não funcionar”, escreveu Breton em uma publicação no Twitter. “Mark Zuckerberg deve agora explicar e tomar medidas imediatas”, disse ele, confirmando o que um funcionário da UE havia dito anteriormente à Reuters. “Conversarei com ele na sede da Meta em Menlo Park (Califórnia) no dia 23 de junho.”

Com informações The Verge e Reuters