5 perguntas para Timnit Gebru, fundadora do DAIR
Em entrevista à Fast Company Brasil, a idealizadora do Distributed AI Research Institute traz verdades incômodas sobre o setor de inteligência artificial
A inteligência artificial vai mudar o mundo? Vai acabar com o mundo? A cientista da computação e ativista Timnit Gebru se preocupa com outras perguntas: afinal, de quem é o mundo? E quem constrói essa tecnologia? Por que não fazer diferente?
Timnit é diretora-executiva de um dos principais institutos que pesquisam a ética na IA: o Distributed AI Research Institute (DAIR). Ex-pesquisadora do Google, onde codirigiu a equipe de IA Ética, ela foi demitida em 2020 após assinar um artigo que denunciava os vieses raciais e os preconceitos nos modelos de linguagem de IA.
O episódio, que se tornou um marco no debate sobre ética na tecnologia, gerou uma reação em cadeia: cartas de parlamentares ao CEO do Google e o primeiro sindicato de trabalhadores de tecnologia da empresa.
Desde então, Gebru fundou o DAIR, instituto independente que investiga como a IA afeta populações marginalizadas, longe da influência das grandes corporações. Nesta entrevista à Fast Company Brasil, ela traz verdades incômodas sobre o setor de inteligência artificial.
FC Brasil – Toda semana, há pelo menos um CEO de empresas ligadas ao mercado de IA, seja da Nvidia ou da Anthropic, fazendo previsões grandiosas sobre o futuro da inteligência artificial. Essas previsões vão desde cronogramas sobre quando empregos e setores inteiros vão desaparecer até projeções sobre a chegada da inteligência artificial geral (IAG). Por que é perigoso comprar essas narrativas? E, mais importante, como evitar cair nelas?
Timnit Gebru – Essas narrativas são prejudiciais em muitas dimensões. Um dos problemas é que o hype da IA esconde o número de pessoas exploradas, os dados roubados e a destruição ambiental envolvidos na construção desses sistemas.
Quando políticos repetem as alegações desses CEOs sobre capacidades “super-humanas” da IA, mesmo que seja na tentativa de alertar o público, acabam fazendo marketing para as empresas de tecnologia. E de sobra ainda ajudam os CEOs de IA a escaparem da responsabilização pelos danos reais que estão causando.
Leia mais: Artista com obras no MoMA decide treinar inteligência artificial
Eles criam a ilusão de que essas máquinas conseguem fazer coisas profundamente humanas, como produzir arte. O que não apenas destrói vida de artistas que já vivem em condições precárias, mas também empobrece todos nós ao nos privar da conexão humana e da comunicação que a arte representa.
FC Brasil – No DAIR vocês apoiam o desenvolvimento de projetos locais de IA fora dos Estados Unidos. Que exemplos positivos de uso localizado da tecnologia você pode compartilhar?
Timnit Gebru – A IA pode ser tantas coisas diferentes que fica difícil falar sobre danos e benefícios sem especificar exatamente do que estamos falando. Eu penso a IA como uma coleção de especialidades muito distintas entre si.
Se pensarmos, por exemplo, em sistemas automáticos de reconhecimento de voz, eles podem ser muito úteis para apoiar pessoas a se comunicar online usando suas próprias línguas e vozes.
Talvez elas não queiram escrever o tempo todo. No DAIR temos uma federação de pequenas organizações africanas de tecnologia linguística que desenvolvem ferramentas desse tipo para suas comunidades.
Sistemas de detecção de discurso de ódio também ajudam a entender a dimensão do ódio em idiomas que as plataformas de redes sociais ignoram. Em nosso trabalho, encontramos índices de discurso de ódio em amárico e tigrínia [idioma falado no norte da Etiópia] no Twitter entre 9% e 11% dos dados analisados, enquanto em inglês esse número era de apenas 1%.
Todas essas plataformas de mídia social falam sobre "IA" diariamente e ainda vemos que elas ainda não têm ferramentas automatizadas nem para as questões mais básicas de moderação para idiomas que não são o inglês.
Isso leva a resultados terríveis, como o genocídio em Tirgré, no norte da Etiópia, que foi apoiado por postagens virais em redes sociais.
FC Brasil – Um dos pontos que você levanta é como a indústria se fixou na construção de grandes modelos de linguagem, deixando de lado abordagens como a chamada “IA frugal”, baseada em menos recursos e menos dados. Por que estamos experimentando tão pouco modelos sustentáveis para o planeta?
Timnit Gebru – A ciência da computação sempre foi fascinante para mim porque, nas aulas de algoritmos, aprendemos justamente a fazer as coisas da forma mais eficiente possível. Quanto menos memória você consegue usar? Qual é a forma mais bruta de resolver algo e qual é a forma mais inteligente de alcançar o mesmo resultado?
A tendência atual faz exatamente a pergunta oposta: qual o maior tamanho que podemos ter? Se você olhar o código-fonte vazado da Anthropic, verá que eles estão fazendo coisas extremamente simples da maneira mais bruta possível, desperdiçando enormes quantidades de recursos.
Essas pessoas agem como se não existissem limites para a tecnologia que constroem porque estão afundadas no dinheiro e nos investimentos de um mercado que acredita no hype que eles estão vendendo.
FC Brasil – Estamos vendo um número crescente de comunidades reagindo contra a construção de data centers de IA. Qual é o papel da mobilização pública para redefinir e limitar a inteligência artificial? E o que as pessoas podem fazer, na prática?
Timnit Gebru – Em breve, vamos lançar um site que responde exatamente essa pergunta e mostra ao público o que pode ser feito. Existem muitas formas de resistência.
Profissionais de tecnologia podem se recusar a participar do futuro tecnológico desenhado por algumas poucas empresas que estão saqueando o planeta e construir sistemas diferentes, baseados em outros princípios.
Leia mais: Erin Brockovich está mapeando a construção de data centers de IA
O público pode cobrar mais dos governos e exigir o fim da construção de data centers que consomem quantidades intermináveis de água e energia. Jornalistas e acadêmicos não deveriam agir como um “serviço de reprodução de press releases” dessas empresas, mas sim informar o público, que é justamente o seu papel.
O público precisa lembrar que o futuro é nosso, o planeta é nosso e não existe um caminho tecnológico predefinido e predeterminado que somos obrigados a seguir.
FC Brasil – A imaginação faz parte da filosofia de pesquisa do DAIR. Como você imagina os sistemas de IA que usaremos no futuro? O que gostaria que a inteligência artificial fizesse pela humanidade?
Timnit Gebru – Imagino um paradigma tecnológico completamente diferente do que temos hoje. Modelos pequenos e distribuídos. Tecnologia apenas quando necessária, não por obrigação.
Tecnologia que ajude os humanos a se comunicar em qualquer modalidade que desejarem (fala, sinais, diferentes idiomas), em vez de uma tecnologia que os deixem grudados em suas telas trancados em casa.
