Se o ChatGPT tivesse cérebro, sua aparência seria mais ou menos assim
Nova ferramenta de visualização de dados revela a forma inesperada como o ChatGPT organiza suas informações
Quando o ChatGPT foi lançado, em novembro de 2022, Kim Albrecht, assim como milhões de outros, criou uma conta no aplicativo. Albrecht, cuja pesquisa se concentra em visualização de dados, queria entender melhor o tipo de informação contida na inteligência artificial – e também o que faltava.
Ao longo dos últimos 10 meses, ele submeteu mais de 1,7 mil prompts à interface de programação do ChatGPT, questionando a plataforma sobre o conhecimento que ela possui. Sua pesquisa culminou no lançamento do Artificial Worldviews, um mapa interativo que se assemelha a uma galáxia e contém mais de 32 mil estrelas simbolizando as respostas fornecidas pelo aplicativo sobre diversos tópicos.
“Eu queria criar uma interface que tornasse mais fácil para as pessoas explorar e encontrar essas informações nos domínios em que elas têm conhecimento”, diz Albrecht. “Os sistemas sempre tendem a se inclinar para algum lado, e para mim, neste momento, é crucial tentar entender qual é essa inclinação."
Inicialmente, ele fez à interface uma pergunta extremamente aberta: “que conhecimento você possui?” O ChatGPT deu respostas vagas, listando tópicos amplos como comida, geografia e medicina. A partir daí, Albrecht pediu ao chatbot para informá-lo sobre o que sabia sobre esses subcampos.
Conforme se aprofundava em sua pesquisa, os resultados o surpreendiam cada vez mais. Ele descobriu que, das cinco pessoas mais mencionadas, três eram mulheres envolvidas em áreas ambientais e de conservação.
Rachel Carson, autora de “Primavera Silenciosa”, teve 73 menções – o maior número entre os citados. Jane Goodall, primatologista, ficou em segundo lugar, com 60 menções. A ativista queniana Wangari Maathai, ficou em quarto, com 44 menções – entre Aristóteles e Isaac Newton.
Esses pontos principais no mapa de Albrecht levantam questões sobre como o ChatGPT analisa uma solicitação e obtém suas respostas. “A questão é: Rachel Carson e Jane Goodall são acadêmicas cujas pesquisas são amplamente difundidas? Têm pesquisas que transcendem campos e categorias? Ou algo mais está acontecendo aqui?”, questiona Albrecht.
“Será que a OpenAI estabeleceu certos parâmetros que levaram à essa lista? Ou o GPT está a caminho de se tornar uma inteligência artificial geral e se importa muito com o planeta e o meio ambiente?”, complementa.
Embora tenha considerado promissor descobrir que os resultados parecem apresentar uma tendência de priorizar mulheres, serem mais diversos, menos religiosos e, aparentemente, mais preocupados com o meio ambiente do que outros bancos de dados – como o Pantheon Project, onde a primeira mulher listada é Maria, mãe de Jesus, e ocupa a 33ª posição –, Albrecht alertou que provavelmente nem todas as interfaces de IA gerarão resultados semelhantes.
À medida que o ChatGPT se torna cada vez mais popular, pesquisadores estão chamando a atenção para algumas das falhas e ameaças que a plataforma apresenta, desde a disseminação de desinformação até a promoção de conteúdo perigoso. Albrecht observou que, devido às diretrizes de moderação que censuram tópicos prejudiciais ou delicados, como guerra e sexo, ele não recebeu muitas respostas relacionadas a esses assuntos.
“Existem muitas coisas que fazem parte da natureza humana e do mundo que esse sistema não está mostrando de forma alguma”, diz ele.
Como o ChatGPT ainda está evoluindo e aperfeiçoando sua censura a certos tópicos, Albrecht afirma que seus resultados de busca nos últimos meses foram muito mais restritivos do que eram antes. Ao mesmo tempo, a plataforma é provavelmente a versão mais livre de restrições que veremos.
“Estamos vivendo um momento interessante, porque os sistemas ainda não estão totalmente dominados pelo capitalismo”, afirma Albrecht, explicando que, no futuro, é provável que o ChatGPT exiba anúncios ou patrocínios, da mesma forma como o Google promove certos conteúdos nos resultados de busca. “O que estamos vendo neste mapa é, nesse sentido, talvez uma versão um pouco mais pura do que será daqui a alguns anos.”
De modo geral, Albrecht espera que seu mapa se torne uma ferramenta para os usuários do ChatGPT refletirem sobre que tipo de conteúdo a plataforma apresenta ao ser questionada ou receber uma instrução, o porquê disso e quem pode estar por trás dos dados nos quais a interface foi treinada.
“Quem deveria definir a lista de fotógrafos mais importantes ou das pessoas mais influentes na medicina? Não é algo que alguém possa afirmar [com certeza]”, ele comenta. “Creio que, pelo menos, esse mapa possa servir para que as pessoas comparem suas próprias crenças com as de outros sistemas.”
