Como o Pinterest está combatendo algoritmos racistas
A beleza está nos olhos de quem vê. Mas o que acontece quando o observador não consegue se ver refletido nesse espelho gigante que é a internet?
Essa é uma questão que inquieta há anos a equipe na linha de frente das políticas de inclusão do Pinterest. No mês passado, a empresa de mídia social lançou uma nova funcionalidade que faz uso da I.A. (inteligência artificial) e do aprendizado de máquina para mostrar resultados mais relevantes aos usuários quanto eles buscarem inspirações para o cabelo. Agora, pesquisas por palavras-chave ou expressões relacionadas a esse tema – tais como “penteado de verão” ou “tranças com cachos” – poderão ser filtradas de acordo com seis padrões diferentes de cabelo: trançado, crespo, cacheado, ondulado, liso e raspado/careca.
O produto foi criado tendo em vista grupos étnicos não hegemônicos, como negros e latinos. Embora o tema “cabelo” possa parecer trivial para alguns, a expressão da beleza por meio de penteados é, na verdade, uma assinatura estabelecida na cultura negra. Em 2018, o Pinterest já havia lançado uma ferramenta que permitia aos usuários refinar a pesquisa por faixas de tons de pele. Estejam eles comprando uma nova base para o rosto ou buscando inspiração para aplicar sombra nos olhos, passaram a encontrar um feed mais personalizado, que reflete suas características físicas.
A nova tecnologia para pesquisas personalizadas sobre cabelos está ligada ao esforço do Pinterest para criar uma experiência mais inclusiva. Para uma rede social que tem suas raízes na busca constante por ideais de beleza, esse é um passo importante no sentido de ampliar a representatividade online.
“Como uma plataforma visual e como um site que acreditamos oferecer de refúgio na Internet, é importante pensarmos em como podemos inspirar todas as pessoas, sem discriminação”, diz Annie Ta, que lidera a equipe de Produtos Inclusivos do Pinterest. De acordo com dados internos da empresa, somente no último mês de julho foram feitas mais de 120 milhões de pesquisas por “cabelo”, e foram criados mais de 5 bilhões de pins relacionados ao tema. Não há dados disponíveis que mostrem qual é a quantidade de usuários do Pinterest que se identifica como negro ou indígena, por exemplo, mas Annie Ta afirma que essa nova ferramenta coloca grupos sub-representados no centro das tomadas de decisões da empresa. “Como podemos tornar as experiências mais representativas online?”, ela reforça a pergunta.
O novo mecanismo de pesquisa é alimentado por um modelo de visão computacional subjacente, treinado em um conjunto diversificado de imagens relacionadas a cabelos. Com o tempo, esse modelo aprende a associar certos pixels a certos padrões de cabelo. O objetivo maior é garantir a imparcialidade da I.A. desde a primeira etapa do desenvolvimento.
Embora a inteligência artificial e os algoritmos sejam usados em quase todas as tecnologias que nos rodeiam, eles podem estar muito enviesados. Em um fatídico episódio de 2015, o Google Fotos rotulou os rostos de um casal afro-americano como “gorilas”. E em maio deste ano, as pessoas perceberam que a inteligência artificial de imagens do Twitter favorecia rostos brancos, em detrimento de rostos negros.
“Já aprendemos como é importante partir de um conjunto de dados diversificado”, diz Nadia Fawaz, cientista de pesquisa aplicada e líder de tecnologia para inteligência artificial inclusiva do Pinterest. Fawaz diz que o Pinterest coletou de dezenas de milhares a centenas de milhares de imagens que retratam diferentes padrões de cabelo, tons de pele, gêneros e estilos.
“Trata-se de um processo interativo. Você observa como o modelo funciona, quais erros ele comete, e o realimenta com esses erros, para que ele aprenda com isso”, ela explica. Por exemplo, o algoritmo teve que ser ensinado que nem toda superfície esférica é uma cabeça careca ou raspada, e que nem todo cabelo com tranças se enquadra na categoria “penteado de proteção”.
Para um site como o Pinterest, onde os ideais de beleza estão por toda parte, mitigar esses preconceitos é particularmente importante. “A beleza é subjetiva, e quando você leva em consideração uma I.A. ou um algoritmo para determinar o que vai aparecer na pesquisa de alguém, você precisa ter certeza de que está tentando acomodar o máximo de variáveis possível”, diz Dennis Schultz, diretor executivo da fundação Blacks in Technology (Fundação Negros na Tecnologia), cuja missão é diminuir o abismo entre os trabalhadores negros e a indústria de tecnologia.
Para Schultz, definições limitadas ou distorcidas de beleza têm o poder de alterar a maneira como as pessoas se enxergam, ainda que elas não percebam. Ele pondera que o esforço do Pinterest parece ser nobre e inovador, mas que a busca pela inclusão também precisa se estender aos bastidores. “O que os levou a essa mudança? Como foi tomada a decisão? Havia diversidade de vozes na sala?”, ele questiona.
Annie Ta reconhece que o Pinterest “não acompanha estatísticas sobre raça e etnia de todos na equipe”, mas destaca que essa funcionalidade foi fruto do trabalho de profissionais de “muitas origens diferentes”, especializados em uma ampla variedade de disciplinas, incluindo cabeleireiros como Naeemah LaFond, artista global e diretor da marca de cuidados para cabelos Amika, que prestou consultoria sobre a experiência geral do usuário e sobre a linguagem a ser usada no site.
Por enquanto, a nova ferramenta de pesquisa está disponível nos EUA, no Reino Unido, na Irlanda, no Canadá, na Austrália e na Nova Zelândia. A equipe do Pinterest está trabalhando para implementá-la em outros mercados, onde nuances culturais poderão ditar a necessidade de mais padrões de cabelo e de diferentes definições de beleza. Ta informou que o Pinterest contabiliza 80 milhões de pesquisas relacionadas à beleza por mês. “A beleza tem muito a ver com a representação física das pessoas”, diz ela. “Queremos que todos sejam vistos.”
