A IA está criando novos riscos para meninas e mulheres
É fundamental que mulheres desempenhem um papel ativo na criação de ferramentas de IA, para que a desigualdade não seja incorporada aos sistemas
Recentemente, o Grok, ferramenta de IA da xAI, enfrentou críticas após usuários descobrirem que o sistema estava gerando imagens explícitas de pessoas reais, incluindo mulheres e crianças.
Embora a empresa tenha implementado novas restrições, o episódio expôs uma fragilidade séria. Sem salvaguardas adequadas e sem diversidade de perspectivas no desenvolvimento de tecnologia, meninas e mulheres ficam mais vulneráveis.
Os riscos que a inteligência artificial representa para meninas e mulheres são reais e já estão acontecendo. Afetam saúde mental, segurança, acesso a cuidados médicos e oportunidades econômicas. Nos EUA, no final do ano passado, uma mãe descobriu a razão da piora na saúde mental de sua filha adolescente: conversas com um chatbot da Character.AI.
Ela não está sozinha. O relatório "O estado da juventude" (State of Youth), divulgado em dezembro pela Aura, revelou que os pais acreditam que a tecnologia tem um impacto mais negativo nas emoções das meninas – incluindo estresse, ciúme e solidão – do que nos meninos: 51% contra 36%.
Os riscos vão além da saúde mental. A OpenAI informou recentemente que mais de 40 milhões de norte-americanos buscam informações de saúde diariamente no ChatGPT. À medida que a IA se expande na área médica, as consequências de dados de treinamento enviesados podem ser perigosas.
Modelos treinados predominantemente com dados de saúde masculinos produzem resultados piores para mulheres. Um exemplo: um sistema de IA projetado para detectar doenças hepáticas a partir de exames de sangue deixou de identificar 44% dos casos em mulheres, contra 23% em homens.
FALTA DE REPRESENTATIVIDADE
No mercado de trabalho, a IA também não está nivelando o campo de jogo. Apesar das leis que proíbem discriminação, ferramentas de recrutamento baseadas em IA vêm levantando preocupações recorrentes sobre viés, equidade e privacidade de dados.
Um estudo publicado pela Universidade de Washington mostrou que, em triagens automatizadas de currículos, a tecnologia favoreceu nomes associados a mulheres em apenas 11% dos casos.
Essas falhas refletem quem está construindo nossa tecnologia. Mulheres representam apenas 22% da força de trabalho em IA. Quando sistemas são projetados sem a perspectiva feminina, acabam replicando desigualdades já existentes e criando novos riscos. O padrão é claro: a IA está falhando com meninas e mulheres.
As decisões tomadas hoje sobre como a IA é desenvolvida moldarão o acesso a empregos, saúde, educação e participação cívica nas próximas décadas. É fundamental que mulheres desempenhem um papel ativo na criação dessas ferramentas, para que a desigualdade não seja incorporada aos sistemas que cada vez mais governam nossas vidas.
Leia mais: A internet não criou a misoginia, mas amplificou o ódio
As jovens não estão alheias à IA. Pesquisa conduzida em 2025 pela Girls Who Code, em parceria com a Universidade da Califórnia, mostrou que jovens mulheres refletem profundamente sobre a natureza ambivalente da tecnologia.
Elas reconhecem seu potencial para melhorar a saúde, ampliar o acesso à educação e enfrentar a crise climática. Mas também estão cientes dos perigos, como viés, vigilância e exclusão dos processos de desenvolvimento.
Não se trata de otimismo ingênuo. É uma perspectiva que frequentemente falta no desenvolvimento atual de IA.
O PAPEL DAS MULHERES NO DESENVOLVIMENTO DA IA
Criar tecnologia é exercer poder – e assumir responsabilidades. Como meninas costumam ser as mais afetadas pelas falhas da IA, precisam ser capacitadas para liderar as soluções.
Exemplos não faltam. A ex-aluna da Girls Who Code Trisha Prabhu desenvolveu o ReThink, ferramenta contra o bullying online. Já Latanya Sweeney, reconhecida como uma das principais pensadoras em IA, fundou o Public Interest Tech Lab na Universidade Harvard. Suas trajetórias mostram o potencial que emerge quando mulheres lideram o desenvolvimento tecnológico.
Se quisermos sistemas de IA mais seguros e responsáveis, três passos são essenciais:
1. Educação em ciência da computação com foco em impacto social
Programação não pode ser ensinada isoladamente de suas consequências. Estudantes precisam aprender habilidades técnicas junto com análise crítica sobre como a tecnologia molda comunidades e vidas.
Esse modelo já dá resultados. Uma estudante da Girls Who Code, por exemplo, criou o aplicativo AIFinTech para ajudar famílias imigrantes a gerenciar suas finanças pessoais.
2. Representatividade feminina no desenvolvimento e na governança da IA
Especialmente mulheres de comunidades historicamente subatendidas precisam ter assento nas mesas onde sistemas de IA são projetados, testados e regulados. Isso significa garantir diversidade de gênero em conselhos de ética em IA e assegurar que comitês governamentais reflitam a demografia das populações mais impactadas.
3. Atualizar os critérios de avaliação da IA
Hoje, a IA é medida por eficiência, precisão e rentabilidade. Precisamos incluir saúde, equidade e bem-estar, especialmente de meninas e jovens mulheres.
Antes de ser implementado em ambientes de alto risco, como a saúde, um sistema de IA deveria passar por testes obrigatórios de viés de gênero e demonstrar que não produz resultados desiguais.
A cidade de Nova York, por exemplo, exige que empregadores que utilizam ferramentas automatizadas de decisão em contratações realizem todos os anos auditorias independentes de viés.
Leia mais: Bridgerton e o espartilho, o mais controvertido acessório feminino da história
Não precisamos aceitar as falhas da IA como inevitáveis. Estamos testemunhando, em tempo real, seus impactos sobre meninas e mulheres e ainda há tempo de mudar o rumo enquanto a tecnologia está sendo moldada.
Quando meninas têm a chance de liderar na IA, constroem sistemas mais seguros não apenas para si mesmas, mas para todos.
