ChatGPT: a última pergunta deveria ser a primeira?
Não descarto a possibilidade de você ter batido o olho no título desse artigo e já entendido a referência. "A Última Pergunta" passa longe de ser uma referência obscura – está, possivelmente, entre as narrativas mais famosas de ficção científica já produzidas.
Escrito por Isaac Asimov nos anos 1950, o conto (pelo menos no imaginário americano) atravessa milhões, bilhões, trilhões de anos, narrando diferentes episódios em que os humanos, em um mundo altamente tecnológico, se dão conta de uma mesma questão: o que fazer diante do destino incontornável de que, em algum momento, não haverá mais energia suficiente para abastecer a utopia intergalática que eles mesmo criaram?
Na prática, os personagens do conto se voltam aos seus supercomputadores, cada um mais potente do que o da geração anterior, para obter a resposta. E toda vez que a máquina é surpreendida com a pergunta, a resposta é a mesma: "ainda não há dados suficientes para responder a essa questão".
Mais do que encontrar a melhor forma de usar as novas tecnologias para tornar nosso trabalho mais ágil, queremos dominar a máquina antes que exista alguma chance real de ela nos tornar obsoletos.
Analisado por múltiplas lentes desde que foi publicado, o conto de Asimov vai da religião à filosofia, da tecnologia à ética. Em tempos de ChatGPT, é impossível não lembrar da história e traçar alguns paralelos. Afinal, estou empolgado, você está empolgado, o mundo todo está.
Vivemos uma euforia recente com a rápida popularização dos LLMs (Large Language Models). Queremos encontrar a melhor forma de usar as novas tecnologias para tornar nosso trabalho mais ágil. Mais do que isso: queremos dominar a máquina antes mesmo que exista alguma chance real de ela nos tornar obsoletos.
Com essa missão, empreendedores e investidores correm para garantir um assento na primeira fileira de quem sairá com o maior lucro inventando o melhor uso para a tecnologia.
As possibilidades são infinitas. Em um dos painéis que acompanhei no SXSW há algumas semanas, Greg Brockman, da OpenAI, não hesitou em dizer que a inteligência artificial tocará todos os aspectos das nossas vidas, a ponto de a série que a gente assiste em uma plataforma de streaming moldar seus arcos narrativos a partir do gosto de quem assiste.
FUTURO INEVITÁVEL
O que Asimov tem a ver com tudo isso? Por mais que “A Última Pergunta” lide com um futuro de teletransporte intergalático em segundos, computadores que habitam uma dimensão própria e humanos que descobriram (com a ajuda da tecnologia, é claro) uma forma de alcançar a imortalidade, o argumento principal da história é menos distante do que a gente pensa.
No conto, a última pergunta é basicamente um momento em que a humanidade, diante de tanto avanço tecnológico, se lembra de que há algo inevitável no futuro (seja ele próximo ou distante): o fim. Essa, talvez, seja a principal mensagem que Asimov busca passar com seu conto.
No conto, a última pergunta é um momento em que a humanidade se lembra de que há algo inevitável no futuro – o fim.
Mas, quando penso em cruzar a história com o ChatGPT, meu olhar está em outro aspecto: os humanos descritos por Asimov na história, ao se darem conta da questão inevitável, correm para seus supercomputadores em busca da resposta. Porém, a tecnologia é incapaz, ainda (ênfase no "ainda"), de chegar a uma resposta. E então os personagens se acomodam nessa limitação.
A realidade é tão dependente da inteligência dos computadores (que já são criados, eles mesmos, por outros computadores, dada a limitação intelectual dos humanos) que, de alguma forma, anestesia os humanos que se servem dela.
Em outras palavras, os personagens do conto de Asimov sabem que há algo que ameaça a continuidade eterna de tanto progresso, mas seguem suas vidas com a esperança de que a própria tecnologia seja capaz de resolver a questão. A pergunta mais essencial na relação entre humanos e tecnologia é, também, a última.
Como tornar nosso trabalho não menos humano, mas ainda mais humano, mais sensível, mais ético, sem dar adeus às máquinas?
No conto, ela é a última porque é a que mais exige processamento e dados da máquina para formular uma resposta, se é que uma resposta é capaz de ser encontrada (aqui, vou evitar o spoiler para quem ainda não leu). Mas parece que ela deveria ter sido a primeira: antes de colonizar galáxias e mais galáxias, os humanos do mundo de Asimov poderiam ter dado um passo para trás e se perguntado o que o futuro lhes reserva.
Na prática, deixando de lado as análises mais profundas e existenciais da história, o que o conto traz de lição é também a tendência dos humanos em adiar o inevitável quando o assunto é a ética que precisamos construir quando nosso dia a dia fica cada vez mais atravessado por inovações como um LLM.
Em nossas conversas longas e profundas com o ChatGPT, parece que ainda evitamos um momento de reflexão, uma pergunta que não pode ser a última – e, por enquanto, não pode também ser respondida pelo ChatGPT.
A pergunta talvez seja uma dessas: qual a melhor forma de usarmos essas ferramentas sem que a gente perca o senso crítico? Como tornar nosso trabalho não menos humano, mas ainda mais humano, mais sensível, mais ético, sem dar adeus às máquinas?
Qual lugar queremos ocupar nesse futuro: um lugar de total dependência e alienação, como no caso de alguns personagens do conto de Asimov, ou um lugar de criação conjunta?
