Inteligência artificial, misoginia e os vícios e vieses de programação
Só na primeira semana de fevereiro acontecem três grandes eventos mundiais da indústria de gaming – a edição asiática da Hyper Game Conference, o Boston Fig e a WN Conference em Berlim. Tanto seus line-ups de speakers quanto o teor das palestras endossaram minha percepção sobre a ausência de preocupação deste mercado em encarar de frente inquietantes aspectos comportamentais reforçados pelo tipo de experiência proporcionada por seus produtos e serviços, ou pelas históricas distorções estruturais das empresas do segmento.Desde o surgimento dos videogames se debate o risco do exercício virtual da violência transbordar para a vida concreta, uma vez que esse tipo de tecnologia imersiva, como inúmeros estudos atestam, pode levar mentes instáveis a confundirem a linha que separa ficção de realidade. São incontáveis os registros de crimes cometidos por indivíduos, em grande maioria do sexo masculino, que antes de transgredir passavam grande parte de seu dia mergulhados em jogos e interações virtuais de conteúdo extremo. Mas confesso que não deixo de me surpreender com notícias que revelam um perturbador aspecto adicional dessa equação: a marcante misoginia que permeia radicais vivências online.Pouco difundido por aqui, o termo “incel” involuntary celibates (celibatários involuntários), trata de membros de uma subcultura virtual que, a despeito de seu desejo, se vêem incapazes de construir parcerias românticas ou ter vida sexual ativa. Em seu Inceldom (reino dos incels) homens, heterossexuais em sua maioria, encontram eco para sua ressentida visão de quem se vê merecedor de mais do que recebe delas, e retroalimentam um ambiente de absoluto ódio pelo sexo feminino.A partir de uma tragédia real – um atentado de 2018 em Toronto, no qual um homem jogou uma van sobre uma calçada repleta de pedestres, matando 11 e deixando inúmeros com graves sequelas – a série de podcast canadense Boys like Me explora e detalha, em cinco episódios, os meandros desse submundo que emerge ocasionalmente de forma trágica. O trabalho de fôlego revela, entre outras nuances dramáticas, o fato de que parte considerável dos incels se encontra dentro do espectro autista, o que faz qualquer um questionar quanto essa incapacitante sensação de inadequação social pode ou não ser equacionada terapêuticamente.Uma das modalidades de misoginia digital atualmente em voga, não necessariamente de autoria incel, está relacionada ao abuso verbal/textual a assistentes virtuais, em sua maioria concebidas com características femininas – nomes, avatares e vozes – bem como em função da forma com que são programadas a reagir às interações – de forma exageradamente servil e obediente – mesmo diante de flagrantes insultos. A tendência não é recente, tendo sido inclusive merecedora de estudo feito pela ONU em 2019 no qual, em 145 páginas, a entidade demonstrou como os vícios de programação desses assistentes virtuais – não por acaso invariavelmente codificados por homens – contribuía para o sexismo e os estereótipos negativos de gênero.A novidade, pelo menos para mim, é um nível mais complexo e intencional de abuso amparado pela inteligência artificial. Segundo matéria da Futurism, agora virou moda homens criando suas próprias assistentes virtuais, feitas sob medida para serem abusadas. Com ajuda do aplicativo Replika, cujo slogan é “A acompanhante virtual que se importa” e o posicionamento “Sempre aqui para escutar e conversar. Sempre do seu lado”; usuários estão construindo “namoradas” digitais que são verdadeiros sparrings de abuso verbal. Os diálogos são gravados e postados pelos próprios usuários em fóruns de discussão do Reddit, como forma de exibir sua performance a seus pares, enquanto reforçam o sentido de pertencimento ao grupo. Como argumenta a reportagem, por um lado os usuários que descarregam nos chatbots seus mais sombrios impulsos poderiam reforçar seus mais desprezíveis comportamentos, construindo hábitos muito pouco saudáveis na convivência com humanos. Por outro, a possibilidade de conversar ou descontar toda raiva numa entidade digital poderia ser catártica, sobretudo num universo em que o acesso à psicoterapia ainda é elitizado.Seja como for, independente dos usos e abusos da tecnologia por parte de indivíduos com diferentes graus de distúrbio mental, cabe à indústria de programação, dos games e das redes sociais o imperativo moral de assegurar que essas distorções de ótica na relação entre os gêneros não encontrem terreno fértil ou campo aberto em suas estruturas organizacionais. Se esses nem tão inconscientes vieses conseguem se infiltrar na concepção de produtos e serviços, é porque:1) Esses ambientes de trabalho carecem de equipes diversas (senso de 2019 da IGDA – International Game Developers Association, por exemplo apontou que nos EUA só 24% dos desenvolvedores de jogo se identificam como mulheres, 7% como hispânicos e 2% como pretos).2) Não existem instâncias de controle de qualidade orientadas por princípios de ESG que sejam consequentes com o nível de influência que suas criações exercem na sociedade contemporânea, principalmente entre jovens cujo caráter ainda está em formação.É alentador ver iniciativas como do Mobile World Congress, em criar fóruns como o Diversity4Tech, com uma programação especificamente desenhada para discutir diversidade e inclusão, mas estas, dada sua transversalidade, não devem ser tratadas como uma aba específica no menu de temas a serem debatidos.Quando tanto se fala no advento do metaverso, onde já se têm notícias sobre o cometimento de estupro coletivo (!!!), é chegada a hora de indústrias notoriamente sexistas, quando não absolutamente tóxicas para as mulheres – é mais do que habitual jogadoras on-line recorrerem a avatares e identidades masculinas para se protegerem de abuso no mundo geek – saírem de sua zona de conforto e colaborarem ativamente para o avanço nas relações entre os gêneros.
