A inteligência artificial não é inteligente. É só um reflexo de nós
Autora questiona o impacto da dependência de máquinas em nossa moral
Alguns anos atrás, Shannon Vallor estava diante da Cloud Gate, a imponente escultura do artista plástico Anish Kapoor, mais conhecida como “The Bean” (feijão), no Millennium Park, em Chicago. Observando a superfície espelhada e brilhante, algo chamou sua atenção:
“Vi como ela refletia não apenas as formas das pessoas, mas também estruturas maiores, como o horizonte de Chicago”, lembra ela. “Mas percebi que esses reflexos eram distorcidos – alguns ampliados, outros encolhidos ou deformados.”
Para Vallor, professora de filosofia da Universidade de Edimburgo, na Escócia, era como o funcionamento do aprendizado de máquina, que “reflete os padrões encontrados em nossos dados, mas nunca de forma neutra ou objetiva”. Essa analogia se tornou central em suas palestras e ganhou ainda mais relevância com o surgimento dos grandes modelos de linguagem – e das ferramentas de IA desenvolvidas a partir deles.
Os “espelhos” da inteligência artificial nos refletem porque são construídos com base nos dados que fornecemos – com todos os preconceitos e peculiaridades que isso acarreta. Enquanto outras metáforas sobre IA podem sugerir que se trata de uma inteligência viva, Vallor prefere a comparação com um espelho: a inteligência artificial não é consciente, é apenas uma superfície inerte que nos fascina com ilusões de profundidade, como um espelho de parque de diversões.
Os “espelhos” da inteligência artificial nos refletem porque são construídos com base nos dados que fornecemos – com todos os preconceitos e peculiaridades que isso acarreta
Essa perspectiva é a premissa de seu mais recente livro, “The AI Mirror” (O Espelho da IA), uma crítica afiada e instigante que desfaz muitas das ilusões que temos sobre máquinas “inteligentes” e redireciona o foco para nós mesmos. Vallor vê muitas similaridades entre os nossos primeiros contatos com os chatbots e a história de Narciso – personagem da mitologia grega que se apaixonou por seu próprio reflexo, acreditando que fosse outra pessoa. Assim como ele, alerta a autora, “corremos o risco de sacrificar nossa humanidade em nome desse reflexo”.
Vallor não é contra a inteligência artificial. Como codiretora do BRAID, uma organização sem fins lucrativos do Reino Unido que une tecnologia e humanidades, ela já aconselhou empresas do Vale do Silício sobre práticas responsáveis de IA.
Também reconhece o valor de “modelos seguros, bem testados e moralmente justificáveis” para enfrentar desafios complexos, como questões de saúde e meio ambiente. No entanto, ao observar a crescente dependência de algoritmos – de redes sociais a assistentes virtuais –, Vallor compara sua relação com a tecnologia a “um relacionamento que azedou com o tempo, mas do qual não é possível simplesmente sair”.
Para lidar com essa relação cada vez mais incerta com a tecnologia, a autora sugere um retorno às virtudes humanas, como justiça e sabedoria prática. Segundo ela, virtudes não são apenas sobre quem somos, mas sobre o que fazemos e o esforço constante de nos construirmos em sociedade.
Virtudes não são apenas sobre quem somos, mas sobre o que fazemos e o esforço constante de nos construirmos em sociedade.
Os sistemas de IA, por outro lado, podem imitar aspectos do comportamento humano, mas, como Vallor ressalta no seu livro, “eles não sabem nada sobre a experiência de pensar ou sentir, assim como um espelho não compreende nossas dores internas”.
Além disso, por serem baseados em dados históricos, os algoritmos frequentemente limitam nossas possibilidades futuras, perpetuando os mesmos padrões que já resultaram em desigualdade, discriminação e crises climáticas. “Como enfrentaremos problemas sem precedentes?”, questiona Vallor. “Nossos espelhos digitais só olham para trás.”
À medida que passamos a confiar cada vez mais em máquinas e priorizamos eficiência e lucro, ela teme que estejamos enfraquecendo nossos “músculos morais” e nos afastando dos valores que dão significado à vida.
Enquanto exploramos o que a IA é capaz de fazer, Vallor defende que também precisamos cultivar nossas habilidades únicas, como o raciocínio contextual e o julgamento moral. Afinal, apenas os humanos são capazes de transformar a contemplação de uma escultura em uma metáfora poderosa sobre tecnologia. “Não precisamos ‘derrotar’ a IA”, conclui. “Precisamos evitar derrotar a nós mesmos.”
