Como evitar que o metaverso reforce o racismo
Pessoas marginalizadas são sempre as mais prejudicadas pelas consequências indesejadas das novas tecnologias. Por exemplo: os algoritmos que tomam decisões automaticamente sobre quem pode ver qual conteúdo ou sobre como as imagens são interpretadas carregam em si preconceitos raciais e de gênero. Pessoas com múltiplas identidades marginalizadas, como negros e deficientes físicos, correm ainda mais riscos do que aquelas com uma única identidade marginalizada.
Foi por isso que fiquei com um pé atrás quando Mark Zuckerberg expôs sua visão do metaverso – uma rede de ambientes virtuais em que muitas pessoas podem interagir umas com as outras e com objetos digitais – e quando ele declarou que isso “afetaria todos os produtos que a empresa constrói”. Como uma pesquisadora que estuda as interseções de raça, tecnologia e democracia — e como uma mulher negra – acredito que é importante considerar com mais cuidado os valores que estão sendo codificados na internet da próxima geração.
Os problemas já estão surgindo. Os avatares, as personas gráficas que as pessoas podem criar ou comprar para se representar em ambientes virtuais, têm preços diferentes com base na raça, e os assédios racistas e sexistas já estão dando as caras nos ambientes imersivos pré-metaversos de hoje.
Garantir que a próxima etapa da Internet seja inclusiva e funcione para todos exigirá que pessoas de comunidades marginalizadas assumam a liderança em sua criação. Também exigirá uma regulamentação robusta, que obrigue as Big Techs a responder aos interesses públicos. Sem isso, o metaverso corre o risco de herdar os mesmos problemas das mídias sociais de hoje em dia – isso se não se transformar em algo muito pior.
VISÕES UTÓPICAS X REALIDADES DIFÍCEIS
Visões utópicas, nos primórdios da internet, normalmente sustentavam que a vida online seria radicalmente diferente da vida no mundo físico. Por exemplo: as pessoas imaginaram a internet como uma forma de escapar de partes de sua identidade, como raça, gênero e distinções de classe. Mas na prática, a internet está longe de ser um universo sem distinção de raça.
Enquanto as tecno-utopias comunicam visões desejadas do futuro, a realidade das novas tecnologias muitas vezes não corresponde a essas visões. Na verdade, a internet trouxe novas formas de danos à sociedade, como a disseminação automatizada de propaganda nas redes sociais e o preconceito subjacente aos algoritmos que moldam nossa experiência online.
Zuckerberg descreveu o metaverso como uma internet mais imersiva e incorporada, que “desbloqueará muitas experiências novas e incríveis”. Esta é uma visão não apenas de uma internet futura, mas de um modo de vida futuro. E, por mais deturpada que essa visão possa estar, é provável que o metaverso – como as versões anteriores da internet e da mídia social – tenha consequências generalizadas que transformarão a forma como as pessoas se socializam, viajam, aprendem, trabalham e se divertem.
A questão é: essas consequências serão iguais para todos? A história sugere que não.
A TECNOLOGIA NUNCA É NEUTRA
As tecnologias amplamente utilizadas geralmente assumem identidades e corpos masculinos brancos como o padrão. A cientista da computação do MIT, Joy Buolamwini, mostrou que os softwares de reconhecimento facial têm um desempenho pior em mulheres e ainda pior em mulheres com rostos mais escuros. Outros estudos confirmaram isso.
A branquitude é incorporada como padrão nessas tecnologias, mesmo na ausência de raça como uma categoria para algoritmos de aprendizado de máquina. Infelizmente, o racismo e a tecnologia costumam andar de mãos dadas. Políticas e jornalistas negras foram desproporcionalmente alvos de tweets abusivos ou problemáticos, e eleitores negros e latinos foram alvos de campanhas de desinformação online durante o ciclo eleitoral de 2020.
Essa relação histórica entre raça e tecnologia me deixa muito preocupada com o metaverso. Se o metaverso pretende ser uma versão incorporada da internet, conforme Zuckerberg o descreveu, isso significa que as pessoas já marginalizadas experimentarão novas formas de sofrimento?
FACEBOOK E SEU RELACIONAMENTO COM OS NEGROS
A relação geral entre tecnologia e racismo é apenas parte da história. A Meta tem um relacionamento ruim com usuários negros em sua plataforma do Facebook, e com mulheres negras em particular.
Em 2016, os repórteres da ProPublica descobriram que os anunciantes no portal de publicidade do Facebook tinham a opção de excluir grupos de pessoas que veem seus anúncios com base na raça dos usuários, ou naquilo que o Facebook chamou de “afinidade étnica”. Essa opção recebeu muitas críticas, porque o Facebook não pergunta a seus usuários qual é a sua raça, o que significa que alguma “afinidade “étnica” já vem sendo atribuída aos usuários, com base em seu envolvimento na plataforma, como as páginas e postagens que eles curtem.
Em outras palavras, o Facebook essencialmente traça os perfis raciais de seus usuários com base no que eles fazem e do que gostam em sua plataforma, o que cria a oportunidade para os anunciantes discriminarem as pessoas com base em sua raça. Desde quando essa polêmica veio à tona, o Facebook atualizou suas categorias de segmentação de anúncios para não incluir mais a categoria “afinidades étnicas”.
No entanto, os anunciantes ainda podem segmentar as pessoas com base em seus dados presumidos por meio de proxies, que usam combinações de interesses dos usuários para inferir outros dados. Por exemplo, se um anunciante vê nas suas interações do Facebook que você expressou interesse na cultura afro-americana e nos BET Awards, ele pode inferir que você é negro e direcioná-lo a anúncios de produtos que deseja comercializar para negros.
Pior: o Facebook frequentemente remove comentários de mulheres negras que falam contra o racismo e o sexismo. Ironicamente, os comentários de mulheres negras sobre racismo e sexismo estão sendo censurados por supostamente “violar ostensivamente” as políticas do Facebook contra… discursos de ódio! Essa ironia é parte de uma tendência maior dentro das plataformas online: mulheres negras serem punidas por expressar suas preocupações e por exigir justiça nos espaços digitais.
De acordo com um relatório recente do Washington Post, o Facebook percebia que seu algoritmo estava prejudicando desproporcionalmente os usuários negros, mas optou por não fazer nada.
UM METAVERSO DEMOCRÁTICO E RESPONSÁVEL
Em uma entrevista com Vishal Shah, vice-presidente de metaverso de Meta, o apresentador da National Public Radio Audie Cornish perguntou: “Se você não consegue lidar com os comentários no Instagram, como conseguirá lidar com uma camiseta que contenha discurso de ódio no metaverso? Como você conseguirá lidar com as manifestações de ódio que podem acontecer no metaverso?” Da mesma forma, podemos perguntar: se os negros já são punidos por se manifestarem contra o racismo e o sexismo online, então como eles poderão fazer isso no metaverso?
Garantir que o metaverso seja inclusivo e promova os valores democráticos em vez de ameaçar a democracia requer justiça de design e regulamentação da mídia social.
Justiça de design é colocar pessoas que não têm poder na sociedade no centro do processo de design, para evitar a perpetuação das desigualdades existentes. Também significa começar com uma consideração de valores e de princípios que orientem o design.
As leis federais protegeram as empresas de mídia social da responsabilidade pelas postagens e das ações dos usuários em suas plataformas. Isso significa que eles têm o direito, mas não a responsabilidade, de policiar seus sites. Regulamentar as Big Techs é crucial para enfrentar os problemas da mídia social hoje, e é um passo fundamental antes de construirmos a próxima geração da Internet.
O METAVERSO E EU
Não sou contra o metaverso. Eu sou, isso sim, a favor de um metaverso democraticamente responsável. Para que isso aconteça, porém, afirmo que é necessário haver melhores estruturas regulatórias para as empresas de internet e processos de design mais justos, para que a tecnologia não continue a se correlacionar com o racismo.
Para mim, do jeito que a coisa toda vem sendo feita, os benefícios do metaverso ainda não superam os seus potenciais danos e prejuízos. Mas não precisa continuar sendo assim.
