Ainda há tempo para consertar as (muitas) falhas da IA generativa
Fazer as perguntas certas sobre design pode nos ajudar a impedir um futuro distópico e construir o mundo que desejamos com a IA
O lançamento do GPT desencadeou uma onda de entusiasmo. Mas, antes de seguirmos em frente na construção do mundo que queremos com a IA, não seria sensato pensar coletiva e intencionalmente sobre o futuro que realmente desejamos?
Para entender os riscos de forma prática, podemos analisar exemplos reais de problemas que surgiram com novos produtos de IA e refletir criticamente sobre eles, considerando questões que poderiam ter sido evitadas se tivéssemos feito as perguntas certas sobre seus designs durante o processo de desenvolvimento.
Perguntas como: por que estamos apressando a construção de bots de IA generativa que reforçam distúrbios alimentares e substituem profissionais treinados? Será que valorizamos tão
pouco a arte (e os artistas) a ponto de acreditar que a “engenharia de prompts” pode evocar os mesmos sentimentos? Como nossos filhos desenvolverão aprendizado criativo e socioemocional quando a inteligência artificial substitui a conexão humana?
Em casos em que empresas criam intencionalmente produtos abusivos, esses problemas são uma “característica e não um bug” e devem ser abordados por novas leis de proteção ao consumidor.
No entanto, acredito que muitos realmente desejam construir ótimos produtos que não prejudiquem as pessoas, mas talvez não tenham o conhecimento e as ferramentas necessárias. Isso é um problema cultural que pode ser solucionado.
Precisamos nos perguntar qual é o papel de um designer em um cenário em que a inteligência artificial evolui tão rapidamente. Como podemos aproveitar essa oportunidade para criar um mundo mais justo?
A seguir, apresento algumas perspectivas que devemos considerar.
Qualquer pessoa que tem o poder de construir uma IA (em qualquer nível) é um designer e é responsável.
Quando surgem problemas em novas tecnologias, geralmente são resultado de decisões técnicas e estratégicas tomadas ao longo do processo de desenvolvimento. Seja projetando a interface do usuário, criando o modelo, desenvolvendo o back-end ou estabelecendo políticas, qualquer pessoa com poder dentro desse ecossistema é um designer e um tomador de decisões.
É fundamental que as empresas contratem designers com uma mentalidade de crescimento, que possam assumir responsabilidade, reconhecer os preconceitos que influenciam seu trabalho e antecipar as implicações e consequências de suas escolhas de design.
Precisamos adotar um conjunto de valores que nos ajude a construir com IA de forma benéfica para todos.
Valores são fundamentais para orientar nosso comportamento e tomada de decisões. Acreditamos que a privacidade é um direito de todos e, portanto, não exploramos os dados do usuário? Entendemos a web como um serviço público e optamos por construí-la de forma aberta, em vez de segmentada? Sem um sistema de valores, os designers ficam perdidos e inevitavelmente fazem escolhas que prejudicam as pessoas.
Os designers precisam entender o comportamento humano e como as sociedades são estruturadas antes de começarem a construir qualquer coisa.
É fundamental que as empresas comuniquem seus valores aos candidatos em potencial durante o processo de contratação. Estudantes e profissionais também precisam ter seu próprio conjunto de valores, e isso deve ser um exercício essencial para sua formação.
Muitos designers acreditam que apenas criam e executam códigos de acordo com o que lhes é pedido, mas, na realidade, estão construindo um mundo impulsionado pela IA.
Designers podem ser cientistas sociais, não apenas visionários da tecnologia.
A falta de conexão entre o desenvolvimento da inteligência artificial e o mundo real tem levado à disseminação de desinformação, vieses raciais e de gênero e uma crise de saúde mental entre jovens. Apesar de tudo isso, a computação (e a IA) é ensinada como uma disciplina altamente técnica, separada das ciências humanas e sociais.
Precisamos nos perguntar qual é o papel de um designer em um cenário em que a IA evolui tão rapidamente.
Os designers precisam entender o comportamento humano, como as sociedades são estruturadas e como os sistemas de opressão funcionam antes de começarem a construir qualquer coisa.
Por replicar sistemas do mundo real (e poder se tornar a base deles), a formação em IA e computação precisa estar enraizada na sociologia, linguística, ciência política e estudos de gênero.
A introdução de obras como “Automating Inequality” (Automatizando as Desigualdades), de Virginia Eubanks, e “Race After Technology” (Raça Depois da Tecnologia), de Ruha Benjamin, pode ajudar estudantes a analisar as desigualdades estruturais ao seu redor, compreender como as tecnologias que constroem podem agravá-las e prever as consequências positivas e negativas de suas escolhas de design.
Com essa mudança de perspectiva, eles poderão ingressar no mundo real entendendo como prevenir a exclusão digital e o desenvolvimento de tecnologias de vigilância.
Estamos em um momento crucial em que podemos moldar o futuro com a IA e outras tecnologias emergentes para melhor, mas precisamos pensar e agir de forma diferente. Tudo começa com um design profundo e cuidadoso desse mundo que realmente desejamos, garantindo que nossos papéis, as ferramentas que usamos, a maneira como aprendemos e as culturas que criamos estejam alinhados com esse objetivo.
