Como a IA está transformando as iniciativas de diversidade e inclusão
Mesmo com o auxílio da IA, não podemos ignorar a permanência de vieses preconceituosos
O uso de inteligência artificial (IA) em iniciativas de diversidade, equidade e inclusão (DEI) não é mais uma questão de “e se?”, mas sim de “e agora?”. Como a história recente tem demonstrado, as instituições – sejam governos, ONGs ou empresas – não estão prontas para comprometer recursos humanos em tempo integral com iniciativas de DEI. Como especialista no tema, torço o nariz para investimentos em algoritmos ou máquinas para gerar avanços nessa área.
Tenho percebido que a IA vem sendo usada nos esforços de DEI de duas maneiras principais: para aprimorar a percepção e a implementação nas tarefas relacionadas ao ciclo de vida do funcionário e para dimensionar e apoiar o trabalho da equipe de DEI, automatizando auditorias e análises de dados.
A IA pode ajudar a melhorar o “D”, mas diversidade, por si só não equivale à equidade e, certamente, não é sinônimo de inclusão.
Mas o que mais me preocupa são as declarações de que o uso da IA eliminaria o viés de preconceito e discriminação. Todo mundo sabe que os algoritmos e conjuntos de dados de inteligência artificial refletem os preconceitos humanos e têm falhas inerentes. Estudos já identificaram preconceitos na tecnologia de IA, como em carros autônomos e em softwares de reconhecimento facial.
Considerando que ainda não entendemos nem compreendemos amplamente as definições, métodos e medições que considerariam uma iniciativa de DEI bem-sucedida em estruturas corporativas, é preocupante a pressa com que estão implementando mudanças que relegam esse trabalho a ferramentas de IA, mesmo que apenas parcialmente.
Eis algumas implicações às quais os praticantes e defensores da DEI devem ficar atentos:
1. Dados sobre representatividade não garantem resultados
Algumas pessoas sugerem que devemos usar IA para analisar dados que informariam as empresas se a força de trabalho tem representantes de diversos grupos, e em qual grau. Mas os líderes já sabem se há uma boa representação em suas equipes. A vantagem é que agora poderíamos ter essa resposta com mais rapidez? Se é isso, para qual finalidade?
ualquer pessoa que acredite que o uso da inteligência artificial vai eliminar vieses preconceituosos está equivocada.
O problema com a implementação de iniciativas de DEI bem-sucedidas não é a velocidade da análise de dados, mas sim a relutância em lidar com a desigualdade sistêmica. O desespero ou desânimo de muitos executivos de DEI não se devem à falta de informação ou à lentidão com que os dados são coletados, mas sim à falta de progresso para além do número de funcionários de grupos minoritários.
A IA pode ajudar a apontar onde podemos melhorar o “D” no DEI. No entanto, a diversidade por si só não equivale à equidade e certamente não é sinônimo de inclusão.
2. Usar IA para funções de RH não ajuda nos esforços de DEI
Ferramentas de IA podem ser úteis para auxiliar os profissionais de RH responsáveis pelo ciclo de vida do funcionário: atração, recrutamento, integração, desenvolvimento, retenção e separação. Mas esses fatores são apenas uma pequena parte do trabalho do DEI.
As verdadeiras iniciativas DEI fazem parte de uma estratégia de transformação de negócios mais ampla, não apenas uma estratégia de experiência do funcionário. Se alguém tem uma compreensão superficial do que é DEI e relega incorretamente esses esforços às funções de RH (como as descritas acima), o impacto dos esforços do DEI fica limitado.
3. A IA não elimina o viés
Todos temos preconceitos, simplesmente porque é assim que o cérebro humano funciona. Mesmo com o auxílio da IA, não
as instituições não estão prontas para comprometer recursos humanos em tempo integral com ações de DEI.
há como eliminar a existência de viés. Podemos defender maior diversidade ou representação em experiências e exposições individuais e corporativas, e espero que isso possa ajudar a amenizar o preconceito.
Mas, apesar dos esforços para promover o uso responsável da tecnologia na tentativa de limitar os vieses na IA, qualquer pessoa que acredite que o uso da inteligência artificial vai eliminar vieses preconceituosos está equivocada.
4. IA e “autenticidade”
O Buzzfeed observou recentemente que os investidores logo começariam a usar IA para ajudar a moldar uma “voz autêntica” na produção de conteúdo baseado em identidade negra, asiática e latina.
Acredito que esse seja um dos usos mais hipócritas da palavra “autêntico”, especialmente porque há uma grande falta de diversidade no desenvolvimento de inteligência artificial. E porque, afinal de contas, o “A” em “IA” significa “artificial”.
Já a aplicação da IA nas iniciativas de DEI não é tão preocupante. Por exemplo, apenas no ano passado, os pesquisadores conduziram um estudo sobre as declarações de diversidade das empresas que constam na lista Fortune 500.
O problema com a implementação de iniciativas de DEI bem-sucedidas é a relutância em lidar com a desigualdade sistêmica.
Usando análise de linguagem baseada em IA, eles determinaram que 80% das mensagens de diversidade dessas empresas centravam seu compromisso e investimento nos resultados. Apenas 5% se baseavam na ideia de justiça social.
O estudo descobriu que as mensagens de diversidade focadas em aumentar os lucros de uma empresa, na verdade, correm o risco de afastar possíveis funcionários que se identificam como pessoas de grupos excluídos e sub-representados. A IA pode ter sido útil, mas não conseguiu abordar todo o escopo da DEI transformacional.
A adaptação e o uso da inteligência artificial não são apenas uma questão do local de trabalho. Trata-se de uma questão social que abrange educação, interações interpessoais, infraestrutura e outras áreas.
Muitos especialistas começaram a falar sobre a necessidade de maior regulamentação para equilibrar os benefícios da IA com seus danos potenciais. De qualquer forma, os líderes precisam considerar como o uso da tecnologia impacta as iniciativas de diversidade, equidade e inclusão, bem como os trabalhadores afetados por elas.
