Falha no algoritmo do Facebook ocasionou fake news; entenda

Uma falha identificada no algoritmo de classificação do Facebook fez que com usuários recebessem durante meses fake news e outros conteúdos nocivos diretamente em seus feeds.

De acordo com o The Verge, que teve acesso a documentos internos da empresa, o erro foi descrito por funcionários da big tech como uma “falha maciça de classificação” que ficou sem correção por meses e afetou “pelo menos metade de todas as visualizações do Feed de notícias”.

Ainda segundo o documento, durante o período em que a falha ficou ativa, “os sistemas do Facebook não conseguiram suprimir adequadamente [conteúdos de] nudez, violência e até a mídia estatal russa que a rede social recentemente prometeu parar de recomendar, em resposta à invasão da Ucrânia“, aponta o documento. Dessa forma, em vez de impedir que o conteúdo circulasse pela plataforma, o algoritmo permitia a circulação.

A falha foi identificada quando especialistas da empresa perceberam, em outubro passado, que um número crescente de conteúdos impróprios começou a aparecer inesperadamente no feed de notícias da rede social — o aumento de publicações do tipo foi de 30% globalmente.

A questão, que chegou a ser categorizada como “grave”, foi corrigida no início de março, quando a causa especialistas da empresa conseguiram identificar a causa raiz.

O incidente foi confirmado pelo porta-voz da Meta, Joe Osborne, ao The Verge. O executivo afirmou que a empresa “detectou inconsistências na classificação em cinco ocasiões distintas, que se correlacionaram com pequenos aumentos temporários nas métricas internas”.

Osborne afirmou também que “rastreamos a causa raiz do bug de software e aplicamos as correções necessárias” e que a falha “não teve impacto significativo e de longo prazo em nossas métricas”.

O algoritmo do Facebook e a (falta de) transparência

A forma nem sempre clara sobre como os algoritmos da empresa funcionam já foi alvo de discussões e, inclusive, foi uma das questões levantadas por Frances Haugen no Facebook Papers.

A ex-funcionária da empresa — responsável por vazar informações do Facebook que expuseram falhas na segurança de usuários — argumentou que são problemas como esses que evidenciam a necessidade da empresa tornar seus algoritmos transparentes e abertos, para que pesquisadores externos e especialistas autônomos possam entender seu funcionamento e contribuir com a evolução da tecnologia.