Problema e solução: algoritmos podem ajudar a eliminar vieses “invisíveis”

Os algoritmos desempenham um papel fundamental na vida moderna. Contamos com eles para nos ajudar a navegar por vastos catálogos e encontrar os melhores filmes, rotas, informações, produtos, pessoas e investimentos.

No entanto, como são treinados a partir das nossas decisões – como aqueles que fornecem recomendações nas redes sociais –, tendem a absorver e refletir os nossos próprios vieses.

As recomendações algorítmicas frequentemente se baseiam em escolhas populares e informações que provocam reações emocionais. Em um nível mais amplo, esses vieses podem acabar perpetuando e amplificando preconceitos raciais no sistema judicial, preconceitos de gênero nas contratações e desigualdade de renda no desenvolvimento urbano.

Mas, curiosamente, os algoritmos também podem ser parte da solução. Eles revelam os vieses estruturais ocultos nas organizações. Em um artigo publicado na “Proceedings of the National Academy of Sciences”, meus colegas e eu descobrimos que podem ajudar as pessoas a reconhecer e corrigir seus próprios vieses.

ANALISANDO O VIÉS

Em uma série de nove experimentos, pedimos aos participantes que avaliassem motoristas de Uber e anúncios do Airbnb quanto à habilidade na direção, confiabilidade e probabilidade de alugar a hospedagem anunciada. Fornecemos detalhes relevantes, como o número de viagens feitas, pontuação e a descrição da propriedade.

Mas também incluímos informações irrelevantes que poderiam influenciar o julgamento, como fotos que revelavam a idade, o gênero e a aparência dos motoristas e nomes que poderiam indicar a etnia dos anfitriões.

Após completarem suas avaliações, dividimos os participantes em dois grupos e mostramos a cada um deles um resumo: um sobre suas próprias avaliações e outro sobre as avaliações de um algoritmo treinado com base em seus próprios julgamentos.

Em seguida, informamos a eles sobre os vieses que poderiam ter influenciado as escolhas, como a tendência de evitar alugar hospedagens de anfitriões com nomes afro-americanos. Pedimos então que avaliassem o quanto esses vieses influenciaram os resultados nos resumos.

Independentemente de terem considerado o viés racial, de idade, de gênero ou de aparência, os participantes perceberam mais viés nas avaliações feitas pelos algoritmos – mesmo quando acreditavam estar vendo as suas próprias e eram informados de que eram, na verdade, as avaliações de um algoritmo. Este padrão se manteve mesmo entre aqueles que pertenciam a grupos minoritários, como mulheres ou pessoas negras.

ENXERGANDO NOSSOS PRÓPRIOS VIESES

O motivo pelo qual eles perceberam mais viés nos algoritmos do que em suas próprias avaliações está relacionado à forma como enxergamos os vieses. É mais fácil identificar viés nas decisões de outras pessoas do que nas nossas próprias, já que utilizamos diferentes critérios para avaliá-las.

Quando analisamos nossas próprias decisões em busca de vieses, tendemos a procurar evidências de preconceito consciente, ignorando ou justificando aqueles que possam surgir dos nossos processos intuitivos de tomada de decisão. Podemos pensar, por exemplo: “não levei em conta a raça ou o gênero do candidato. A contratação foi baseada apenas no mérito”.

como são treinados a partir das nossas decisões, os algoritmos tendem a absorver e refletir nossos próprios vieses.

Por outro lado, ao analisar as decisões de outras pessoas, não temos acesso aos processos mentais que levaram essas pessoas a tomarem aquela decisão. Isso nos leva a identificar e criticar o viés de forma mais clara.

Os algoritmos eliminam esse “ponto cego” porque os vemos como “o outro”. O processo de tomada de decisão é desconhecido para nós, assim como não temos acesso aos pensamentos das outras pessoas.

Atribuir vieses aos algoritmos é mais fácil do que a nós mesmos, mesmo eles sendo treinados a partir das nossas próprias escolhas. Sempre os culpamos. É por isso que continuamos usando o termo “viés algorítmico”.

Este texto foi reproduzido do The Conversation sob licença Creative Commons. Leia o artigo original.