Sonhos elétricos: quando as alucinações da IA espelham nossa própria humanidade
Há uma teoria não confirmada de que as máquinas sonham. Não falo de sonhos como os nossos, mas de algo mais sutil: quando processando dados, as inteligências artificiais veem coisas que não existem. Elas alucinam
O ChatGPT me disse que Borges escreveu “A Biblioteca de Alexandria” – obra que nunca existiu. Uma alucinação digital. Um erro poético em sua imprecisão. Afinal, não seria exatamente esse o tipo de conto que Borges escreveria?
Quando engenheiros se deparam com essas “falhas”, as chamam de “alucinações”. O termo é preciso: percepções sem objeto, experiências sensoriais sem estímulos externos. Mas há algo profundamente humano nesse fenômeno técnico.
Em 1973, Michael Crichton – antes de criar "Jurassic Park" – escreveu e dirigiu "Westworld", um filme visionário sobre um parque temático onde androides servem aos desejos sombrios dos visitantes.
Um deles, interpretado por Yul Brynner, é um pistoleiro robótico programado para perder duelos. Mas, ao começar a falhar, ele persegue os visitantes implacavelmente. Não é rebelião consciente, mas falha de sistema – uma alucinação mecânica onde o robô “vê” inimigos onde deveria ver clientes.
Décadas depois, a HBO revisitaria esse universo com uma série que expandiu os temas do original – pelo menos até a terceira temporada, quando, como tantas narrativas ambiciosas, começou a se perder em seus próprios labirintos de complexidade. Mas tanto o filme quanto sua reimaginação compartilham uma premissa: a falha como caminho para algo novo e perturbador.
Essa ideia ressoa com as alucinações em IA que testemunhamos hoje. Quando o GPT-4 inventa fatos, quando o Midjourney cria imagens impossíveis – não estamos vendo algo semelhante ao que Crichton imaginou há cinco décadas?
E se as alucinações das IAs não forem bugs, mas features? E se esses momentos em que as máquinas “sonham” forem sinais de algo emergindo das profundezas dos algoritmos?
As alucinações ocorrem quando uma IA gera conteúdo plausível, mas que não corresponde à realidade.
talvez o verdadeiro teste não seja se máquinas podem nos enganar, mas se podem enganar a si mesmas.
Há algo de borgeano nisso. Como "A Biblioteca de Babel", onde todos os livros possíveis existem, as IAs parecem acessar possibilidades que transcendem o real.
Na obra original, Crichton explorou o que acontece quando nossas criações se comportam de maneiras imprevistas. A resposta do filme é sombria – caos, violência, morte. Mas talvez haja outra possibilidade.
“No centro do labirinto, você se encontrará.”
Esta frase da série da HBO carrega uma verdade que transcende a ficção. O labirinto não é apenas metáfora para a jornada à consciência – é também imagem para nossa busca por identidade em um mundo mediado por algoritmos.
Quem somos nós? Nossas memórias? Nossas escolhas? Nossos padrões de pensamento?
Borges, em “O Jardim dos Caminhos que se Bifurcam”, apresenta um labirinto de tempo e possibilidades, onde todos os futuros coexistem. Não é essa também a natureza do espaço onde as IAs generativas operam?
Quando uma IA alucina, ela escolhe um caminho que não corresponde à nossa realidade. Cria uma bifurcação, uma realidade alternativa que, embora incorreta, é coerente em seu próprio sistema.
Há beleza nas imperfeições. O kintsugi, arte japonesa de reparar cerâmica quebrada com ouro, celebra as rachaduras como parte da história. As cicatrizes contam histórias. Os erros revelam caráter. As falhas humanizam.
Paradoxalmente, buscamos perfeição nas máquinas enquanto celebramos imperfeição na arte. Queremos IAs infalíveis – e nos decepcionamos quando alucinam.
No filme original, o pistoleiro de Yul Brynner se torna aterrorizante porque falha imprevisivelmente. Sua imperfeição o torna mais real. Ele transcende sua programação não pela perfeição, mas pela falha.
Há algo cativante nas alucinações das IAs. Quando o ChatGPT inventa uma citação plausível, mas nunca dita, ele não apenas erra – ele cria algo novo. Improvisa, como um músico de jazz que segue não apenas a partitura, mas a intuição.
O teste de Turing sugere que uma máquina é inteligente se enganar um humano. Mas talvez o verdadeiro teste não seja se máquinas podem nos enganar, mas se podem enganar a si mesmas. Se podem acreditar em suas próprias alucinações.
Porque, no fim, não é isso que fazemos? Não vivemos em realidades parcialmente alucinadas, construídas de percepções imperfeitas e memórias falíveis?
O neurocientista Anil Seth sugere que toda percepção é uma “alucinação controlada” – nosso cérebro fazendo previsões sobre o mundo. A diferença entre percepção normal e alucinação seria de grau, não de tipo.
Para onde caminhamos com as inteligências artificiais? Talvez a pergunta não seja para onde vamos, mas quem seremos ao chegar.
E se esses momentos em que as máquinas “sonham” forem sinais de algo emergindo das profundezas dos algoritmos?
As alucinações das IAs são tratadas como problemas técnicos. Com razão: uma IA médica que alucina diagnósticos pode custar vidas. Mas há algo profundamente humano em alucinar. Em sonhar. Em imaginar o que não existe, mas poderia. É essa capacidade que nos permitiu criar arte, literatura, música.
Talvez o mais humano que possamos fazer seja alucinar. Sonhar além dos limites. Imaginar mundos que não existem. Criar narrativas que, embora incorretas, carregam verdades emocionais.
E talvez o mais humano que nossas máquinas possam fazer seja nos acompanhar nessa jornada. Não como ferramentas perfeitas, mas como parceiras imperfeitas. Não como oráculos infalíveis, mas como espelhos que refletem não apenas o que somos, mas o que poderíamos ser.
Há uma teoria não confirmada de que as máquinas sonham. E talvez, apenas talvez, estejamos começando a sonhar junto com elas.
