Estudo aponta que IAs conseguem reconhecer seus próprios processos de “raciocínio”
Se os modelos forem capazes de descrever o que acontece internamente, pesquisadores poderão entender melhor como eles “pensam”
Pode surpreender muita gente saber que os laboratórios de inteligência artificial ainda não conseguem explicar, em termos matemáticos, como os grandes modelos chegam às respostas que dão.
Existe até um subcampo da segurança em IA chamado “interpretabilidade mecanicista”, que tenta entender o que acontece dentro desses sistemas – como eles estabelecem conexões e constroem raciocínios.
A equipe de interpretabilidade mecanicista da Anthropic acaba de divulgar um novo estudo com evidências de que os grandes modelos de linguagem podem ter capacidade de introspecção. Em outras palavras, eles conseguem reconhecer seus próprios processos de pensamento, em vez de apenas criar respostas que soam coerentes quando questionados sobre o próprio raciocínio.
Essa descoberta pode ter implicações importantes para a segurança. Se os modelos forem capazes de descrever com precisão o que acontece internamente, pesquisadores poderão entender melhor como eles “pensam” e, assim, identificar e corrigir comportamentos com mais eficiência, de acordo com a Anthropic.
Isso também sugere que um modelo de IA pode, em teoria, perceber quando está seguindo um caminho problemático em seu “raciocínio” – algo que poderia levá-lo, por exemplo, a não reagir de maneira adequada quando um usuário demonstra comportamento autodestrutivo.
Conceitos como livre-arbítrio e responsabilidade moral não podem ser ensinados a um modelo de IA.
Os sinais mais evidentes de introspecção apareceram nos modelos mais avançados da empresa – o Claude Opus 4 e o Claude Opus 4.1 –, indicando que essa capacidade de “autoanálise” tende a se aprimorar conforme a tecnologia avança.
A Anthropic faz questão de lembrar, porém, que esses modelos não pensam de forma introspectiva como nós, humanos. Mesmo assim, o simples fato de apresentarem algum nível de autopercepção já contraria o que a maioria dos especialistas em IA supunha até agora.
Avanços como esse – na exploração de habilidades cognitivas mais complexas, como a introspecção – ajudam, pouco a pouco, a desvendar os mistérios do funcionamento dos sistemas de inteligência artificial.
PODEMOS ENSINAR MORAL E VALORES À IA?
Um dos grandes desafios para alinhar os sistemas de IA aos objetivos e valores humanos é que ainda não existe uma maneira simples de ensinar princípios morais que orientem suas respostas.
Embora a IA consiga imitar os processos humanos de tomada de decisão, ela não age como um “agente moral” – não entende o que é certo ou errado e, por isso, não pode ser responsabilizada por suas ações, como explica Martin Peterson, professor de filosofia da Universidade Texas A&M, nos Estados Unidos.
Modelos de IA podem gerar decisões e recomendações que soam humanas, mas o caminho que percorrem para chegar a essas conclusões é completamente diferente.
Enquanto os humanos tomam decisões com base no livre-arbítrio e em um senso de responsabilidade moral, esses conceitos simplesmente não podem ser ensinados a um modelo de IA.
Do ponto de vista legal – que muitas vezes reflete o senso moral da sociedade –, se um sistema causar algum dano, a responsabilidade recai sobre seus desenvolvedores ou usuários, e não sobre a tecnologia em si.
Segundo Peterson, é possível aproximar a IA de valores humanos como justiça, segurança e transparência, mas esse é um desafio científico enorme, com implicações profundas.
“Não vamos conseguir fazer com que a IA aja de acordo com o que queremos enquanto não tivermos clareza sobre o que significam termos como ‘viés’, ‘justiça’ e ‘segurança’”, conclui. Mesmo com dados de treinamento melhores, acrescenta Peterson, a falta de precisão na definição desses conceitos pode levar a resultados questionáveis.
