Os riscos de se afrouxar a moderação de conteúdo nas redes sociais
No Twitter, tudo parece estar dando errado e na hora errada para Elon Musk
O trem desgovernado em que se transformou o Twitter nas mãos de Elon Musk continua a enfrentar novos problemas a cada dia que passa. Na semana passada, ele teve que suspender a conta do rapper Kanye West por conta da postagem de uma suástica dentro de uma estrela de David, um símbolo da religião judaica – isso apenas algumas horas depois de o artista ter elogiado Hitler em uma entrevista concedida a Alex Jones (um conhecido adepto de teorias da conspiração nos EUA).
Agora, Musk está tendo que enfrentar uma nova encrenca, na forma de um levantamento publicado por um consórcio de organizações dedicadas a monitorar discurso de ódio em redes sociais, entre elas o Center for Countering Digital Hate (Centro de Combate ao Ódio no Digital, ou CCDH, na sigla em inglês) e a Liga Anti-Difamação (Anti-Defamation League/ ADL). Os dados apontam que o crescimento do discurso de ódio no Twitter nunca esteve pior.
“Elon Musk foi novamente exposto como alguém que vem enganando usuários e anunciantes, alardeando ‘missão cumprida’ a despeito do evidente fracasso em alcançar os padrões que ele mesmo definiu para acabar com as manifestações de intolerância”, diz Imran Ahmed, CEO do CCDH.
Isso vem acontecendo apesar das afirmações do bilionário de que o número de impressões (ou visualizações) de conteúdos com discurso de ódio caiu para um nível menor do que aquele verificado antes de ele comprar a rede social.
Usar o número de impressões é uma métrica incorreta e enganadora, segundo Ahmed. Os dados do CCDH, coletados via análise da quantidade de tuítes com insultos, mostram que quase todas as mensagens com discurso de ódio experimentaram um “efeito Musk”.
Antes da aquisição da companhia, em outubro, o termo “negro” (altamente pejorativo na língua inglesa) era mencionado em média 1.282 vezes por dia no Twitter. Na semana em que Musk tuitou que o nível de diversão na plataforma estava crescendo, o número de menções pulou para 4.650.
A média de mensagens com insultos postadas por dia, desde que Musk assumiu o controle, cresceu 202%.
A quantidade média de mensagens com insultos postadas por dia, desde que ele assumiu o controle, tem sido de 3.876 – um crescimento de 202%. O grau de engajamento em conteúdos com discurso de ódio (como curtidas e retuítes) também disparou, de 13,3 em média para 49,5 no pós-aquisição, segundo a análise do CCDH.
A organização atribui esse movimento à “maximização da liberdade de expressão” defendida por Musk, que alguns veem como um tipo de mensagem cifrada para aqueles que destilam ódio para espalhar sua intolerância.
Os dados reunidos pelo CCDH sugerem que os usuários do Twitter que tendem a adotar posições contrárias a minorias, como a comunidade LGBT+, vêm ganhando espaço na plataforma desde que ela foi comprada por Musk.
Alguns meses atrás, os pesquisadores do CCDH identificaram 10 usuários como sendo os maiores propagadores de posicionamentos anti-LGBT+. Nos três meses anteriores à aquisição, esses usuários ganharam em média 222.709 seguidores por mês. Em novembro, a média subiu para 944.205.
“O que estamos vendo é que Elon Musk está aprendendo, em tempo real, as lições que aqueles que trabalham na área de segurança e confiabilidade já sabem há mais de uma década”, diz Rebekah Tromble, diretora do Instituto de Dados, Democracia e Política da Universidade George Washington. “Não se pode simplesmente postar qualquer coisa alegando ‘liberdade de expressão’ sem sofrer as consequências no mundo real.”
O discurso de ódio não é uma coisa intangível que existe só do ciberespaço: ele tem consequências no mundo aqui fora. “Se alguém vê certas coisas com muita frequência, acaba acreditando que aquilo é normal. É assim que funciona o processo de normalização”, explica Ahmed.
Essa é também a opinião de Rebekah Tromble. “Tem muita gente que age como se o que é dito na internet não tivesse o mesmo peso do que se fala aqui fora. Só que não é assim. Falas antissemitas são tão perigosas no ambiente online quanto em qualquer outro.”, argumenta.
Musk está aprendendo as lições que aqueles que trabalham na área de segurança e confiabilidade já sabem há mais de uma década.
“Esse tipo de discurso pode inspirar e incitar a violência a qualquer momento. Musk parece não ter entendido isso”, alerta Rebekah. De fato, pesquisas sugerem que há uma ligação entre o discurso de ódio na internet e hostilidade fora dela.
Ahmed acredita ainda que Musk é particularmente inadequado para a moderação de conteúdo – que, depois da demissão em massa, ele parece estar tentando supervisionar pessoalmente, com uma drástica redução da equipe de moderadores.
“Ele não trouxe uma solução tecnológica para esse problema, porque não há tecnologia que dê conta de uma questão moral como a de estabelecer limites. Também não trouxe uma solução baseada em consulta à sociedade. Ele disse que ia formar um conselho para cuidar disso e não o fez. Ele mentiu”, acusa Ahmed.
No caso de Kanye West, o CEO do CCDH acredita que Musk foi ingênuo ao achar que não faria mal dar palco ao artista no Twitter.
“É como aquela fábula do sapo que topa levar o escorpião para o outro lado do rio. O que se pode esperar de um escorpião? Que ele dê uma ferroada. Agora Musk vem dizer ‘fiz o melhor que pude e não há mais nada que eu possa fazer’. Bem, o que ele acha que as pessoas estavam fazendo lá antes dele aparecer?”, questiona Ahmed.
