No combate ao preconceito, Google cria ferramentas que capturam os diversos tons de pele
O Google anunciou, no início de maio, um conjunto de iniciativas para criar uma experiência de produto mais equitativa para pessoas em todo o espectro de tons de pele.
Na conferência Google I/O, a empresa apresentou uma nova escala de 10 pontos – ou seja, um conjunto de 10 tons representativos, que as pessoas podem combinar com seus próprios tons de pele ou com tons mostrados em fotografias. Essa escala foi desenvolvida em parceria com Ellis Monk, professor associado de sociologia da Universidade de Harvard, conhecido por sua pesquisa sobre tons de pele e colorismo.
Em um estudo liderado pelo Google, um conjunto diversificado de participantes da pesquisa descobriu que a nova escala feita por Monk é representativa de um número muito maior de tons de pele. Agora, a empresa está liberando informações sobre a pesquisa e o conjunto de cores, para que outros possam usar a mesma escala ou sugerir melhorias.
O Google prevê que a escala pode se tornar uma maneira padronizada para que pessoas que trabalham no setor de tecnologia criem e testem produtos que considerem toda a gama de tons de pele humana, gerando uma maneira uniforme de discutir quais gamas de cor são ou estão (ou não) sendo bem atendidas por um determinado produto.
“É uma forma de abordar essa questão em nosso setor”, diz Tulsee Doshi, chefe de produto para “IA responsável” do Google.
A nova escala, provavelmente, será usada internamente, ajudando a avaliar ferramentas de pesquisa, algoritmos de detecção facial e outros sistemas automatizados, a fim de garantir que eles funcionem bem em uma ampla variedade de tons de pele humana. Historicamente, uma série de tecnologias, desde sistemas de inteligência artificial (incluindo alguns do Google) até câmeras, foram criticadas por terem um desempenho muito melhor ao lidar com imagens de pessoas brancas, com comparação ao seu desempenho diante de imagens de pessoas negras.
No esforço do Google para se afastar desse passado de erros, a empresa provavelmente passará a classificar imagens com base nos tons de pele da escala Monk, para que possa treinar e testar deliberadamente IA e outras tecnologias em um conjunto diversificado de cores de pele. Em geral, o Google procura garantir que os resultados para pesquisas, como “bebê fofo”, não sejam tendenciosos para tons de pele específicos, explica Tulsee Doshi, chefe de produto para IA responsável da companhia.
“Procuramos identificar quando as consultas são tendenciosas, mostrando apenas um pequeno número de tons de pele. A partir daí, estamos tentando melhorar a diversidade dos resultados”, diz ela.
A empresa também está lançando novos filtros para o Google Fotos, como parte de seu sistema Real Tone já existente, projetado para ajudar a gerar fotos de alta qualidade para uma ampla variedade de tons de pele.
Ter uma escala padronizada ajudará as pessoas dentro da empresa – e, potencialmente, toda a indústria – a se comunicarem rapidamente sobre problemas relacionados a racismo, diz Doshi. O Google também está interessado em desenvolver maneiras pelas quais os editores consigam detectar o conteúdo para indicar quais tons de pele estão presentes onde são relevantes. Trata-se de uma estratégia semelhante à dos editores de receitas, que já conseguem adicionar metadados úteis aos mecanismos de pesquisa e aos usuários que procuram instruções de culinária com determinados recursos.
O Google lançou ainda uma ferramenta de refinamento de pesquisa de tom de pele, que o buscador está adicionando a determinados resultados da pesquisa de imagens, começando com aqueles relacionados à maquiagem. Isso permite que as pessoas filtrem imagens que se pareçam mais com elas ou com alguém que estão querendo presentear. Essa ferramenta pode não refletir exatamente a escala de Monk. Doshi espera que a empresa continue a refiná-la com base no que as pessoas acharem útil.
É provável que a escala Monk seja usada frequentemente apenas nos bastidores do Google (e de qualquer outra organização que a adote), em vez de ser uma ferramenta que os usuários de internet vão adotar para descrever seus próprios tons de pele. Mas, para Doshi, usar essa escala no desenvolvimento e teste de produtos melhorará os produtos da empresa para uma ampla gama de usuários.
“Esse tipo de trabalho não é necessariamente visível ao usuário, mas é algo que tornará nossos produtos melhores”, diz ela.
