Algoritmos podem turbinar discurso antissemita nas redes

Ódio contra judeus nas mídias sociais é expresso por estereótipos baseados na propaganda nazista ou na negação do Holocausto

Crédito: Clint Patterson/ Unsplash/ Cottonbro/ Markus Spiske/ Pexels

Sabine Von Mering e Monika Hubscher 4 minutos de leitura

Nos Estados Unidos, o aumento no número de ofensas de cunho antissemita é preocupante. A Liga Anti-Difamação, um grupo judaico de direitos civis com sede em Nova York que acompanha casos desde 1979, descobriu que apenas em 2021 houve 2.717 incidentes do tipo. Isso representa um aumento de 34% em relação a 2020.

Na Europa, observa-se a mesma tendência.  Durante a pandemia, a Comissão Europeia contabilizou um aumento de sete vezes nas postagens antissemitas em contas francesas e de mais de 13 vezes em contas alemãs.

Junto com outros estudiosos que estudam o antissemitismo, começamos a investigar como a tecnologia e o modelo de negócios das plataformas de mídia social estão impulsionando esse movimento.

Um livro de 2022, co-editado por nós e intitulado “Antisemitism on Social Media” (Antissemitismo nas Redes Sociais), oferece análises sobre o que vem acontecendo nos EUA, Alemanha, Dinamarca, Israel, Índia, Reino Unido e Suécia. Os estudos focam em como algoritmos no Facebook, Twitter, TikTok e YouTube contribuem para espalhar o antissemitismo.

COMO ELE SE MANIFESTA NAS REDES SOCIAIS

O ódio contra os judeus nas mídias sociais é frequentemente expresso em representações estereotipadas, que derivam da propaganda nazista ou da negação do Holocausto.

Em 2021, o número de ofensas de cunho antissemita nos EUA cresceu 34% em relação a 2020.

Postagens antissemitas também expressam ódio contra os judeus, baseando-se na noção equivocada de que todos são sionistas – ou seja, que fazem parte do movimento nacional que apoia Israel como um estado judeu – e de que o sionismo é um mal inato.

No entanto, o antissemitismo de hoje não é direcionado apenas aos israelenses e nem sempre assume a forma de slogans tradicionais ou de discurso de ódio. Ele se manifesta de diversas formas, como em GIFs, memes, vlogs, comentários e reações negativas, como curtidas em posts ofensivos nas plataformas.

A estudiosa Sophie Schmalenberger descobriu que o antissemitismo nas redes é expresso não apenas em linguagem e imagens contundentes e ofensivas, mas também em formas codificadas, que podem facilmente passar despercebidas.

No Facebook, por exemplo, o partido radical de direita da Alemanha, o Alternative für Deutschland (AfD) omite a menção do Holocausto em postagens sobre a Segunda Guerra Mundial. Também usa linguagem e retórica antissemitas, que fazem com que isso pareça algo aceitável.

O antissemitismo pode assumir formas sutis, como no uso de emojis. A combinação do emoji de uma estrela de Davi, um símbolo judaico e um rato remonta à propaganda nazista, comparando judeus a vermes. Na Alemanha de Hitler, a constante repetição e normalização de tais representações levou à desumanização dos judeus e, eventualmente, à aceitação do genocídio.

As acadêmicas Gabi Weimann e Natalie Masri estudaram o TikTok. Elas descobriram que crianças e jovens adultos

o antissemitismo de hoje se manifesta em GIFs, memes, vlogs, comentários e reações negativas a posts.

correm o risco de serem expostos, muitas vezes involuntariamente, ao antissemitismo nessa plataforma. Parte do conteúdo postado combina clipes de imagens da Alemanha nazista com novos textos, que menosprezam ou ridicularizam as vítimas do Holocausto.

A exposição contínua a conteúdo antissemita em uma idade jovem, dizem os estudiosos, pode levar à normalização do conteúdo e à radicalização dos usuários do TikTok.

ANTISSEMITISMO ALGORÍTMICO

O antissemitismo é alimentado por algoritmos, que são programados para registrar engajamento. Isso garante que, quanto mais engajamento uma postagem receber, mais usuários a verão. O engajamento inclui todas as reações, como curtidas e descurtidas, compartilhamentos e comentários, incluindo réplicas.

O problema é que as reações às postagens também desencadeiam liberação de dopamina e a sensação de recompensa nos usuários. Como o conteúdo difamatório cria mais engajamento, as pessoas se sentem mais encorajadas a postar conteúdo de ódio.

Além disso, os usuários de redes sociais que postam comentários críticos rechaçando esse tipo de conteúdo não percebem que, devido à forma como os algoritmos funcionam, acabam contribuindo para a disseminação do que criticam. Pesquisas sobre recomendações de vídeos no YouTube também demonstraram como os algoritmos levam os usuários gradualmente a acessar conteúdos mais radicais.

DIANTE DISSO, O QUE PODE SER FEITO?

O estudo do antissemitismo nas mídias sociais apresenta

A exposição contínua ao antissemitismo em uma idade jovem pode levar à normalização do conteúdo e à radicalização.

desafios únicos para os pesquisadores: eles precisam de acesso aos dados e de financiamento para ajudar a desenvolver contra-estratégias eficazes. Até agora, dependem da cooperação das empresas para acessar os dados, que em geral não são regulamentados.

As plataformas implementaram diretrizes para relatar essa prática e as organizações da sociedade civil têm exigido ações contra o antissemitismo algorítmico. No entanto, as medidas tomadas são inadequadas, se não perigosas. Por exemplo: o contradiscurso, que às vezes é promovido como uma estratégia possível, ironicamente tende a amplificar o conteúdo de ódio.

Para abordar de forma significativa o discurso antissemita, as empresas de mídia social precisariam alterar os algoritmos que coletam e organizam dados de usuários para publicidade, que representam grande parte de sua receita.

O fato inegável é que está acontecendo uma disseminação global, sem fronteiras e sem precedentes, de postagens antissemitas nas mídias sociais. Para combater esse problema, acreditamos que será necessário o esforço coletivo das plataformas de mídia social, dos pesquisadores e da sociedade civil.


SOBRE A AUTORA

Sabine von Mering é diretora do Centro de Estudos Alemães e Europeus da Brandeis University. Monika Hübscher é pesquisadora associada ... saiba mais