Borat alertou a Meta sobre fake news política em 2016. Empresa hesitou
Documentos internos expõem anos de disputas sobre moderação, discurso de ódio e o papel da rede social na disseminação de informações falsas
Oito dias haviam se passado desde a eleição presidencial dos Estados Unidos de 2016 e o Facebook enfrentava críticas por ter contribuído para a eleição de Donald Trump ao permitir uma enxurrada de notícias falsas em sua plataforma.
Naquela manhã, Sheryl Sandberg recebeu um memorando sobre políticas públicas de uma fonte improvável: um remetente chamado “Sally” – um aparente pseudônimo de Sacha Baron Cohen.
Em um e-mail intitulado “Reflexões para o dia”, o intérprete de personagens memoráveis como Ali G e Borat instou Sandberg e seus colegas a seguirem o exemplo do Google, que utilizava avisos para identificar informações verificadas e mensagens contra a radicalização para pessoas que pesquisavam termos relacionados ao Estado Islâmico (ISIS).
Se o Facebook decidisse combater as falsidades, deveria “incluir a negação do Holocausto como notícia falsa”, escreveu ele, segundo documentos tornados públicos recentemente no âmbito do processo judicial movido pelo estado do Novo México (EUA) contra a Cambridge Analytica.
“Movimentos fascistas precisam negar o Holocausto para conquistar novos apoiadores”, escreveu Cohen.
Vinte e seis minutos depois de receber a mensagem, Sandberg, então diretora de operações do Facebook, encaminhou o e-mail a cinco altos executivos.
“Parece mesmo que o Google está agindo mais rápido ou recebendo mais reconhecimento – podemos fazer alguma coisa a respeito disso?”, escreveu ela. Em seguida, acrescentou: “Elliot e Joel – realmente acho que ele tem razão sobre a negação do Holocausto, como sempre achei.”
O diretor de políticas públicas da empresa, Elliot Schrage, respondeu que todos concordavam que os indicadores de confiabilidade “também deveriam se aplicar à negação do Holocausto” – “(exceto talvez Mark)”.
Mas ele apresentou uma “escolha difícil” para a empresa: entre ser uma “plataforma para o bem”, conforme definido por “Sacha Baron Cohen ou outras elites”, e ser uma “plataforma para todos”.
Sacha Baron Cohen chamou as grandes redes sociais de “a maior máquina de propaganda da história”.
“Precisamos deixar claro qual caminho queremos seguir e qual posição queremos defender”, escreveu Schrage, questionando se o Facebook deveria “ampliar nossos padrões para exigir que avaliemos a veracidade e a precisão das informações (para além das concepções tradicionais de injúria e difamação)”.
A troca de e-mails é uma entre centenas de documentos apresentados como provas e tornados públicos no processo movido pelo Novo México contra o Facebook (hoje Meta) relacionado à Cambridge Analytica. Na semana passada, um júri considerou a empresa responsável por mais de 43 milhões de violações da lei estadual de proteção ao consumidor.
O júri concluiu que o Facebook havia enganado os usuários sobre a maneira como protegia seus dados e induzido o público ao erro a respeito das investigações sobre os aplicativos que coletavam essas informações.
O veredicto, que pode custar à Meta mais de US$ 200 bilhões, é a primeira vez que um júri decide contra a empresa em um caso relacionado à Cambridge Analytica.
Para além dos debates sobre quais conteúdos devem ser removidos, os e-mails mostram os líderes do Facebook enfrentando, desde cedo, uma questão que acompanha a empresa de lá para cá: ela deveria assumir a responsabilidade de decidir o que é verdade?
No ano passado, a Meta recuou desse papel e substituiu a checagem de fatos por notas da comunidade, produzidas pelos próprios usuários.
AS REVIRAVOLTAS
Baron Cohen levou sua própria batalha a público em novembro de 2019. Ao receber um prêmio da Liga Antidifamação (ADL, na sigla em inglês), chamou as grandes redes sociais de “a maior máquina de propaganda da história”.
Para o ator, se o Facebook existisse na década de 1930, “ele teria permitido a Hitler publicar anúncios de 30 segundos sobre sua ‘solução’ para a ‘questão judaica’.”
O Facebook acabou proibindo a negação do Holocausto 11 meses depois, uma semana após banir grupos do QAnon. Na época, Zuckerberg afirmou que sua “maneira de pensar havia evoluído” depois de ver dados que mostravam um aumento da violência antissemita. “Antes tarde do que nunca”, escreveu Baron Cohen no Twitter.
Mas a aplicação das regras continuou desigual. Um memorando interno de agosto de 2020 afirmava que “o Facebook abre rotineiramente exceções para atores poderosos na aplicação de suas políticas de conteúdo”.
O documento descrevia como, depois de reclamações de senadores republicanos, o Facebook reclassificou um vídeo do grupo antiaborto Live Action, retirando-o da categoria de conteúdos sujeitos à checagem de fatos.
Isso ocorreu embora verificadores independentes tivessem classificado como falsa a afirmação do vídeo de que “o aborto nunca é clinicamente necessário”.
A disputa sobre a desinformação atingiu seu auge durante a pandemia e após a invasão do Capitólio, em 6 de janeiro de 2021, quando o Facebook suspendeu as contas de Trump. A Meta restabeleceu os perfis no início de 2023.
Segundo a NewsGuard, os principais chatbots de IA repetem alegações falsas sobre notícias em cerca de um terço das respostas.
Mais tarde, Zuckerberg disse a parlamentares republicanos da Câmara que integrantes do governo Biden haviam “pressionado repetidamente” a Meta, em 2021, a censurar determinados conteúdos sobre a Covid-19. Ele também afirmou lamentar que a empresa não tivesse se manifestado de maneira mais contundente na época.
Em janeiro de 2025, pouco antes da segunda posse de Trump, a Meta encerrou suas parcerias de checagem de fatos em favor das Notas da Comunidade, recurso semelhante ao utilizado pelo X, e abandonou restrições de conteúdo em temas “como imigração e gênero”. Segundo Zuckerberg, a checagem de fatos havia produzido “erros demais e censura em excesso”.
Em março, o Conselho de Supervisão da Meta (Oversight Board), órgão com relativa independência, afirmou em um parecer consultivo solicitado pela própria empresa que as Notas da Comunidade não eram um substituto adequado para a checagem de fatos.
O conselho também alertou que a expansão do programa para além dos Estados Unidos poderia “representar riscos significativos aos direitos humanos e contribuir para danos concretos”.
ENXUGANDO GELO
A Meta também flexibilizou suas regras contra condutas de ódio. A política revisada agora permite, por exemplo, declarações como “imigrantes são escória” e “pessoas trans não existem”.
Também autoriza “alegações de doença mental ou anormalidade quando fundamentadas em gênero ou orientação sexual”, uma mudança que, segundo alertas de defensores dos direitos LGBTQIA+, deixaria os usuários mais expostos ao assédio.
Desde então, de acordo com um relatório publicado em junho pelo Centro de Combate ao Ódio Digital, os comentários de ódio no Facebook direcionados a integrantes do Congresso dos EUA aumentaram cerca de quatro vezes, embora o número total de comentários analisados tenha mais que dobrado. As ameaças contra Trump mais que duplicaram.
A inteligência artificial generativa está tornando o desafio ainda maior. A NewsGuard identificou mais de 3,7 mil sites de notícias produzidas por fazendas de conteúdo com IA. Auditorias da organização também constataram que os principais chatbots repetem alegações falsas sobre notícias em cerca de um terço das respostas.
Em testes realizados este ano, pesquisadores que se passaram por adolescentes de 13 anos descobriram que oito entre 10 chatbots populares ajudavam regularmente a planejar ataques violentos.
A Meta afirma que continua removendo conteúdos que negam o Holocausto e proíbe ataques a pessoas por causa de sua religião ou etnia, incluindo linguagem desumanizadora, estereótipos prejudiciais e incitações à violência.
Mas um relatório do Centro sobre Extremismo da ADL constatou que a Meta não conseguiu detectar centenas de contas no Instagram que promovem antissemitismo e propaganda terrorista.
Leia mais: 5 perguntas para Nina Jankowicz, do American Sunlight Project
Os algoritmos do Facebook também promoveram comentários antissemitas, incluindo negação do Holocausto, elogios a Hitler e pedidos para que mais judeus fossem mortos, segundo uma investigação publicada em julho pelo Yahoo News Austrália.
Essas opiniões foram consideradas “mais relevantes” entre os três mil comentários acumulados entre abril e junho em uma publicação sobre o Holocausto feita pela Embaixada de Israel em Gana. Segundo a reportagem, novos comentários continuaram surgindo mesmo depois que a empresa começou a tomar providências.
A Meta afirmou ter removido os comentários e as contas e reconheceu que alguns conteúdos prejudiciais conseguem escapar de seus sistemas de moderação.
O QUE É MELHOR PARA A SOCIEDADE?
O governo federal dos Estados Unidos também recuou do combate à disseminação de informações falsas na internet. A Fundação Nacional de Ciências (NSF, na sigla em inglês) cancelou centenas de bolsas destinadas a pesquisas sobre desinformação, enquanto o Departamento de Estado encerrou as atividades da estrutura que sucedeu seu Centro de Engajamento Global.
Em março, o governo Trump concordou ainda com um decreto judicial que o proíbe de ameaçar os Centros de Controle e Prevenção de Doenças (CDC), o gabinete do Cirurgião Geral e a Agência de Segurança Cibernética e de Infraestrutura (CISA) para forçar empresas de redes sociais a suprimir manifestações protegidas pela Constituição.
Ao interrogar Sandberg no ano passado, Randy McGinn, advogado que representava o estado do Novo México, leu para ela a frase final de Baron Cohen: o Facebook precisava escolher entre “o que é melhor para os lucros” e “o que é melhor para a sociedade”. O ator havia acrescentado acreditar que “é possível fazer as duas coisas”. Ela concordava?
“Acho que as pessoas sempre afirmaram, e continuam afirmando, que existe uma troca entre a segurança dos usuários e os lucros”, respondeu Sandberg. “E isso é, acredito, exatamente o contrário. O que era bom para a segurança dos usuários sempre foi bom para os lucros.”
