POR KC IFEANYI

Não faltam análises, artigos, reportagens e documentários sobre os riscos e ameaças provocadas pelas Big Tech. Mas esqueça O Dilema das Redes. A cineasta Shalini Kantayya, autora do celebrado Catching the Sun, se dedicou a descobrir como os algoritmos das redes sociais impactam os grupos mais marginalizados da sociedade. O resultado é o documentário Coded Bias, desde já candidato a ser o próximo “Uma verdade inconveniente” da indústria de tecnologia.

O filme revela como um grupo homogêneo de pessoas é responsável pelo rápido desenvolvimento da inteligência artificial – e como preconceitos inerentes de suas visões de mundo são incorporados ao código das redes sociais.

Da ferramenta de recrutamento da Amazon, que pode ter eliminado candidatas mulheres em processos seletivos, passando por práticas discriminatórias de instituições bancárias e chegando aos códigos transformados em armas pelas forças policiais e pelo governo, o documentário não economiza nas polêmicas. E recorre a uma ampla gama de casos para construir um argumento que defende mais verificações e equilíbrio nos algoritmos que direcionam nossas vidas.

Kantayya decidiu fazer o documentário após assistir a um TED Talk de Joy Buolamwini. Em 2016, a então assistente de pesquisas no Media Lab do Massachusetts Institute of Technology (MIT) revelou um estudo que mostrava um viés de preconceito nos softwares de reconhecimento facial, que excluiriam mulheres e pessoas de pele escura. A pesquisa causou impacto – fazendo empresas como Amazon e IBM repensarem suas práticas e tecnologias – e despertou a curiosidade da cineasta.

Joy Buolamwini, fundadora da Algorithmic Justice League

“O filme nos ajuda a entender como o preconceito pode ser codificado e nos convida a questionar as Big Tech. O filme é contado sob a perspectiva de metade da população esquecida pelos documentários de ciência e tecnologia: mulheres e pessoas negras. Que, por acaso, também lideram a luta pelo uso mais éticos e humano das tecnologias do futuro”, afirma Kantayya.

Coded Bias apresenta uma riqueza revigorante de fontes femininas e especialistas, incluindo Cathy O’Neil, autora de Weapons of Math Destruction; Zeynep Tufekci, professora de sociologia e colaboradora do New York Times; Silkie Carlo, diretora da organização de direitos humanos Big Brother Watch, do Reino Unido; e Safiya Umoja Noble, professora e autora de Algorithms of Oppression. 

KC Ifeanyi cobre entretenimento e cultura pop para a Fast Company. Ele fez parte da equipe vencedora do Emmy no programa “Good Morning America”, onde era produtor de mídia social.