Sobre os ombros dos outros, todo o peso do mundo
Um churrasco entre criminosos onde a carne servida era humana, de uma vítima que havia sido assassinada pouco antes pelos próprios criminosos que a cozinhavam e comiam. Esse era apenas um dos vídeos que um moderador de redes sociais que conheci em Barcelona via diariamente no seu trabalho.
Embora óbvio, esse era um tipo de emprego que passava desapercebido por mim. Até que, em abril de 2019, poucos dias antes de me mudar de São Paulo para Barcelona, por coincidência, li uma matéria na revista Carta Capital sobre os aproximadamente 350 moderadores de conteúdo brasileiros que trabalhavam na cidade da Catalunha.
De acordo com a matéria e o documentário “The Cleaners”, de 2018, toda vez que apertamos o botão para denunciar um post, ele aparece na tela de um desses funcionários, que passam seus turnos de oito horas vendo e analisando o que de pior a humanidade consegue produzir: estupro, pedofilia, assassinato, suicídio, agressões a bebês, canibalismo. Sim, há gente que não só pratica esse tipo de crime como filma e compartilha logo depois. E esses moderadores de conteúdo são os filtros responsáveis por evitar que você ou eu sejamos impactados por posts assim.
O preço que eles pagam, no entanto, é alto. Como filtros que nunca podem ser trocados, onde o que há de mais sujo se acumula sem nunca poder sair, muitos desses moderadores têm crises de pânico, entram em surto, se automutilam e até mesmo cometem suicídio. Conheci alguns deles assim que cheguei a Barcelona. Havia até os que conseguiam lidar melhor com a profissão. Mas havia também os que não tinham aguentado muito tempo e descreviam a experiência como a pior de suas vidas.
Mesmo depois de toda a pesquisa que precisei fazer para escrever o livro, as respostas que procurei se transformaram em mais perguntas – que nunca consegui responder.
O protagonista de “Amanhã Vai Ser Pior”, romance que acabo de publicar no Brasil pela editora Patuá, foi inspirado em alguns desses profissionais brasileiros. Assim como muitos deles, o personagem chega a Barcelona acreditando que conseguiria levar o trabalho na boa. Até ser atingido pela realidade dos posts que só ele podia ver.
Mesmo depois de toda a pesquisa que precisei fazer para escrever o livro, as respostas que procurei se transformaram em mais perguntas – que nunca consegui responder. E, além de certa obsessão pelo assunto em si, não consegui parar de pensar nessas pessoas
Que há algo de errado com a sociedade, sempre se soube. Mas me parece especialmente estranho e triste como os padrões se repetem mesmo quando o contexto e o momento histórico mudam. Ora, o dilema ético “devemos sacrificar um grupo pequeno para o bem de um grupo maior?” está aí desde sempre.
Uma discussão difícil, mas uma decisão fácil num mundo em que o dinheiro sempre vence a ética. Ou, desde a Revolução Industrial, os mineiros não colocariam suas vidas e seus pulmões em risco para que a economia andasse. Ou vacinas não seriam testadas em comunidades carentes de países da África para, depois de seguras, serem usadas no resto do mundo.
No caso dos moderadores de conteúdo de redes sociais, embora a economia já tenha decidido que, sim, eles devem existir, o dilema ético – nunca comentado porque sua invisibilidade interessa a quem manda no mundo – continua: é justo submeter esse grupo de pessoas a esses traumas para que todos nós não sejamos obrigados a vivê-los também?
E se saíssemos do dilema ético mais amplo para a discussão mais específica e prática com relação aos moderadores, não poderia haver outra forma de moderar conteúdo nas redes sociais?
por mais inteligente que uma máquina seja, ela é capaz de identificar o fator humano, a intenção nem sempre clara, a ironia?
Na mesma matéria da Carta Capital, o Facebook, por exemplo, informa que estuda maneiras de usar a inteligência artificial para assumir a função. Mas, por mais inteligente que uma máquina seja, ela é capaz de identificar o fator humano, a intenção nem sempre clara, a ironia?
Um dos moderadores com quem conversei me garante que é muito difícil que a IA assuma totalmente o trabalho. E me dá como exemplo, uma experiência, até certo ponto cômica, que ele próprio viveu: “Um dia precisei moderar um post que era a foto de um homem de sunga verde fosforescente. A dúvida era se, embaixo da sunga, o homem apresentava uma ereção ou uma semi-ereção. Se fosse ereção, eu deveria deletar o post. Para mim já não foi fácil, mas imagina uma máquina tendo que tomar essa decisão”.
Ricardo Labuto Gondim, autor de “Pantokrátor”, romance de ficção científica sobre o controle social através dos algoritmos e vencedor do Prêmio Argos de melhor romance de ficção científica de 2020, discorda. Para ele, o simples funcionamento das redes sociais e a busca, dessas mesmas redes sociais, por um sistema tecnológico para evitar a disseminação dos piores posts são, em si, um paradoxo: “Nas redes sociais, o método fundamental é pavloviano. Se agrado meus seguidores, ganho likes”.
E continua: “Ética é filosofia da moral. Os operadores das redes chamam moral de ‘ética’ porque não têm nenhuma. Já a moral é borracha. Algo que estica e encolhe no conjunto das sociedades. Espichar a moral além do limite ativa o público. O ódio gera mais engajamento do que a foto do gatinho. É assim que o intolerável é tolerado”.
O ódio gera mais engajamento do que a foto do gatinho. É assim que o intolerável é tolerado.
Gondim acredita que, se quisessem, as redes sociais já teriam encontrado a solução: “Não existe um único ser humano na Terra com o poder de decidir onde perfurar um poço de petróleo. A máquina decide. Um supercomputador rodando o algoritmo capaz de encontrar o óleo ou convergir os veículos das estradas vicinais para os pedágios. Imagine esse poder de relacionar e processar variáveis infinitas atrelado ao big data. Quando leio no Kindle, sou lido pelo BD, que sabe se vou desenvolver doença de Parkinson pelo modo como uso o mouse. Agora imagine todo esse escopo em uma rede social, que me testa, desvenda, me aluga para o anunciante e modula meu comportamento. O algoritmo que encontra petróleo conhece os imbecis pelo nome. Poderia suspendê-los agora se a omissão não gerasse bilhões.”
O que me pergunto também é se, além das próprias redes sociais, nós mesmos, como sociedade, estamos preocupados em procurar – ou ao menos nos questionar – se pode haver alguma solução que não o sofrimento dos moderadores de conteúdo para evitar que todos nós soframos. Me parece, infelizmente, que o padrão é o mesmo. Seja com carvoeiros, cobaias de vacinas ou moderadores de conteúdo. Já que os ombros são dos outros, e não meus, eles que carreguem todo o peso do mundo.
