Alucinações, ciência e criatividade
As alucinações da inteligência artificial podem gerar ideias desconexas mas que, às vezes, revelam relações semânticas profundas
Nos grandes modelos de linguagem, uma das características que mais me fascina é também fonte de grandes problemas: as alucinações. Elas surgem quando os sistemas oferecem respostas sem base factual, irrelevantes ou sem sentido.
O problema está no fato de os sistemas serem treinados para argumentar de forma confiável, convencendo as pessoas de suas respostas, mesmo sem fundamento. Se você busca exatidão, prepare-se para grandes frustrações.
Acontece que, no meu trabalho criativo, respostas inexatas são bem-vindas. Ideias desconexas às vezes revelam relações semânticas distantes e profundas, disparando tensões narrativas poderosas.
Mesmo no processo científico, onde a abordagem analítica é predominante, resultados inesperados podem gerar descobertas magníficas. Foi o caso de David Baker, da Universidade de Washington, ganhador do Nobel de Química.
Sua equipe, que contava com dois cientistas do Google DeepMind, usou IA generativa na criação de mais de 10 milhões de novas proteínas a partir do zero, explorando o que muitos chamariam de “erros”.
Ampliando a visão criativa para conclusões menos imediatas no início do processo, entre alucinações da inteligência artificial e ideias absurdas, eles criaram uma explosão de novos caminhos para avanços inéditos.
O discurso dos cientistas laureados me conectou diretamente com uma história que me espanta e diverte desde o ensino médio: a fascinante descoberta do anel de benzeno pelo alemão Friedrich August Kekulé, no século 19.
Após horas de trabalho exaustivo e de tentativas frustradas de entender a formação da estrutura do benzeno, Kekulé cochilou e teve uma visão com átomos dançando, formando linhas como cobras, até que uma dessas cobras passou a comer o próprio rabo, formando um círculo. Exatamente como na figura mitológica do Oroboros, o ciclo da vida.
A alucinação resultou no entendimento imediato da estrutura ciclicamente perfeita que o pesquisador procurava, em uma das descobertas mais importantes da química.
ALUCINAÇÕES DA INTELIGÊNCIA ARTIFICIAL
~
Mas há instâncias na ciência nas quais respostas inexatas não encontram o mesmo espaço. Durante o recesso, conversei com Magda Feres, cientista chefe do departamento de medicina oral da Universidade Harvard. Desde 2018, ela usa IA e computação avançada para analisar dados coletados em décadas de pesquisa e hoje educa outros cientistas no tema.
Segundo ela, a IA tem potencial para revolucionar a saúde ao prever diagnósticos precoces e personalizar tratamentos. Por exemplo, modelos de IA podem identificar o risco de câncer de mama anos antes de sinais clínicos se tornarem perceptíveis. Em contextos como diagnósticos e terapias personalizadas, não há espaço para incertezas – muito menos para as alucinações da inteligência artificial.
Aqui se estabelece uma tensão narrativa extremamente promissora.
O grupo crescente de pesquisadores que está usando IA generativa em seus processos prefere o termo “prospecção” em vez de “alucinação”, destacando que “erros”, vistos sob novas perspectivas, podem ser fontes criativas e estabelecer novos limites.
Assim como seus colegas e o próprio Kekulé, eles acreditam na verificação de suas hipóteses, mostrando que maior abertura inicial à criatividade não invalida o rigor científico.
no trabalho criativo, respostas inexatas são bem-vindas.
O equilíbrio entre criatividade e precisão pode revolucionar a ciência. Esses conceitos não são antagônicos e seus métodos não são excludentes.
Uma das maiores promessas da IA é liberar a mente humana para tarefas mais estratégicas e criativas, impactando todas as áreas do conhecimento. Além de maior precisão, maior produtividade e menores tempos para verificação, os sistemas inteligentes podem acabar mudando alguns processos científicos pela maior injeção de hipóteses criativas.
É um exercício interessante imaginar toda a potencialidade de caminhos inéditos na ciência revigorados por doses cada vez maiores de criatividade e ideias divergentes. E, por que não, cheios de alucinações.
