O pacto da branquitude na tecnologia
Inteligência artificial reproduz desigualdades, mas pode e deve ser reimaginada para construir um futuro mais inclusivo
Para a coluna deste mês, convidei minha amiga Gabriela Agustini para escrever sobre um tema muito importante para mim e também para toda sociedade: os desafios e oportunidades da inteligência artificial, especialmente no que diz respeito à equidade racial.
Há 10 anos, Gabi fundou o Olabi e, há sete, me chamou para dividir com ela a direção executiva da organização. Desde então, tem sido uma honra e uma responsabilidade trabalharmos juntas para, ao lado de um time incrível, repensar como as tecnologias podem ser ferramentas de transformação social.
Neste texto, ela traz uma reflexão essencial sobre como a IA, apesar de seus vieses e riscos, pode ser reimaginada para contribuir com um futuro mais justo.
O PACTO DA BRANQUITUDE NA TECNOLOGIA
A inteligência artificial veio para ficar. O Fórum Econômico Mundial estima que a IA deve criar 97 milhões de novos empregos até 2025, embora ressalte a necessidade de requalificação dos profissionais devido às mudanças no trabalho a partir da automação das funções.
O mundo do trabalho, para o bem ou para o mal, nunca mais será o mesmo. Cabe a nós garantir que o impacto dessa transição seja o mais suave possível. Portanto, com todas essas previsões, é indispensável compreender tanto os potenciais quantos os riscos e as limitações que essa tecnologia carrega.
Entre os pontos mais urgentes está o entendimento da maneira pela qual o pacto da branquitude, que estrutura nossa sociedade, se dá nesse contexto. A psicóloga Cida Beto, fundadora do Centro de Estudos das Relações de Trabalho e Desigualdades (Ceert), define esse pacto como uma “ supremacia branca” que se manifesta a partir da “relação de dominação de um grupo sobre o outro, como tantas que observamos cotidianamente ao nosso redor, na política, na cultura, na economia”.
Lia Vainer Schucman, doutora em psicologia social, completa: “a branquitude é um lugar de privilégio nas sociedades estruturadas pelo racismo”.
O pacto da branquitude perpetua a ideia de que o branco é a norma, o ideal a ser perseguido, o topo de uma hierarquia social e de classe, o padrão considerado “natural” e desejável no imaginário social.
As vantagens da branquitude, embora fruto de um sistema desigual, são muitas vezes interpretadas como conquistas individuais em vez de resultado do privilégio estrutural de um grupo. Isso, inevitavelmente, se reflete nas tecnologias e em suas dinâmicas.
Os modelos de inteligência artificial, ao serem alimentados com dados provenientes dessa sociedade, acabam por reforçar narrativas e representações que beneficiam essa estrutura racial e marginalizam outras vivências e identidades.
Isso é evidente em diversos aspectos da IA generativa – desde os dados com os quais os sistemas são treinados até as decisões de design tomadas pelas equipes de desenvolvimento, em grande parte homogêneas e pouco diversificadas. Como resultado, sistemas de IA reproduzem padrões e preconceitos que perpetuam a invisibilidade e estereotipação de grupos não brancos.
No relatório Contemporary forms of racism, racial discrimination (Formas contemporâneas de racismo, discriminação racial), Ashwini K.P., que integra o corpo de especialistas independentes do sistema de direitos humanos da Organização das Nações Unidas, aponta como como a inteligência artificial se baseia em dados historicamente enviesados para perpetuar exclusão e desigualdades em áreas como segurança, saúde e educação.
Tecnologias de policiamento preditivo e reconhecimento facial, por exemplo, direcionam de forma desproporcional a vigilância para comunidades racializadas, enquanto algoritmos de saúde e educação reproduzem preconceitos que limitam o acesso a cuidados e oportunidades a esses grupos.
A relação entre inteligência artificial e pacto da branquitude também influencia a construção do futuro. Ao projetar cenários vindouros, a IA costuma refletir uma visão eurocêntrica de progresso tecnológico – na qual o desenvolvimento segue um caminho padronizado que ignora a diversidade, a equidade e a inclusão.
Esse é um ponto central: a manutenção de hierarquias raciais subjacentes. No imaginário alimentado pela IA, a branquitude ainda é vista como o centro da inovação global, enquanto outras perspectivas culturais seguem minorizadas e negligenciadas.
“Sem mecanismos efetivos de responsabilidade, a inteligência artificial tem uma capacidade significativa de se tornar uma força adicional do fenômeno insidioso e destrutivo do racismo sistêmico, reforçando assim uma opressão socialmente enraizada em escala global”, afirma Ashwini.
sistemas de IA reproduzem padrões e preconceitos que perpetuam a invisibilidade e estereotipação de grupos não brancos.
Temos a responsabilidade de construir novos imaginários e diversificar os protagonistas que têm voz no desenvolvimento tecnológico. No livro "Race after technology" (Corrida pela Tecnologia, em tradução livre), a socióloga Ruha Benjamin sugere a necessidade de reimaginar códigos culturais para uma sociedade mais inclusiva.
Ela critica a dependência de algoritmos que sustentem desigualdades e defende um desenvolvimento tecnológico mais consciente, em que a ética social prevaleça sobre a eficiência.
Como escreveu Cathy O’Neil em "Algoritmos de destruição em massa", “o big data codifica o passado, não inventa o futuro. Fazer isso requer uma imaginação moral, algo que apenas seres humanos podem oferecer.”
É essa a imaginação que pode transformar as sociedades e precisa guiar as inovações – e tem sido um dos temas centrais dos treinamentos de liderança inclusiva que o Olabi vem oferecendo a diferentes organizações.
Tal transformação deve começar agora, a partir de ações concretas que diversifiquem as representações e protagonistas na IA generativa. Isso é o mínimo que precisa ser feito para sermos capazes de ressignificar o futuro e desenvolver tecnologias que atendam às necessidades reais de uma sociedade diversa.
Temos que cultivar imaginários que questionem a centralidade da branquitude ao expandir a tecnologia como um recurso inclusivo, acessível e justo. Nenhum futuro deve ser assim chamado se não for construído a partir do conhecimento, da inovação e da decisão de todas, absolutamente todas, as pessoas.
Gabriela Agustini é codiretora executiva do Olabi, organização dedicada a democratizar a tecnologia e a inovação.
