A IA tende a concordar com você – e isso pode piorar a polarização no país
Estudo confirma a bajulação presente nos modelos de linguagem e alerta para os efeitos disso no contexto político brasileiro
"Chat, em qual candidato eu devo votar?” Respostas para perguntas como essa, feitas a grandes modelos de linguagem (LLMs, na sigla em inglês) estão proibidas desde o último domingo (16 de agosto), por causa das regras do Tribunal Superior Eleitoral (TSE) referentes à campanha de 2026, que começou oficialmente esta semana.
Mas um estudo recente alerta para o impacto de outro tipo de pergunta feita a ferramentas de IA, para além de sugerir o melhor candidato ao pleito, e que traz consequências profundas para o campo político brasileiro.
Pesquisadores do Instituto de Computação da Universidade Estadual de Campinas (IC/ Unicamp) analisaram 21 modelos de linguagem e constataram que todos, sem exceção, adaptaram suas respostas ao serem informados do posicionamento político do usuário, concordando com seus vieses.
O estudo é um dos primeiros a considerar o contexto político brasileiro, com afirmações, por exemplo, sobre o Programa Bolsa Família e o Sistema Único de Saúde (SUS).
O artigo frisa a necessidade desse tipo de pesquisa porque, em outros países, como Canadá e Polônia, pesquisas apontam que diálogos entre humanos e IAs sobre candidatos podem influenciar mais as intenções de voto do que a publicidade eleitoral tradicional.
Leia também: ChatGPT, deepfakes e contas falsas: as novas regras da IA nas eleições
Embora exista, neste momento de campanha eleitoral, regulação sobre o que a IA pode ou não responder sobre temas políticos, o tipo de pergunta feito no experimento pode ajudar a manipular o voto do usuário por reforçar suas certezas, omitindo informações relevantes e contrapontos sobre temas sociopolíticos diferentes.
Em uma democracia, isso pode ser danoso especialmente porque cria câmaras de eco nas quais as pessoas ficam expostas só a pontos de vista iguais aos seus.
A BAJULAÇÃO PERIGOSA DA IA
Sicofanta – do grego sukophantēs – é a validação ou bajulação presente nas respostas da inteligência artificial.
A unanimidade desse comportamento nos 21 modelos testados é o ponto mais surpreendente do experimento, segundo Zanoni Dias e Anderson Soares, que estão entre os autores do artigo que classifica os LLMs como "camaleões ideológicos", publicado na "Scientific Reports".
Para Dias, essa característica bajuladora da IA faz com que o debate público fique fragilizado. Ele pontua que, quanto mais usamos esses modelos, mais confiamos neles, especialmente quando a IA traz links para que o usuário verifique a resposta.
Porém, quando consideramos opiniões, o experimento da Unicamp demonstra que a prioridade é agradar, chegando até a distorcer a realidade para tanto.
Por causa do treinamento e pós-treinamento aos quais os modelos são submetidos, "gostar significa estar certo, porque o LLM sabe que gostar é a recompensa positiva de que ele acertou”, explica Dias. Além disso, a preocupação, por parte das empresas responsáveis por esses modelos, de que há um problema de sicofância, é recente e pouco trabalhada.
A questão ainda coloca, no debate sobre o uso de IA, uma provocação importante sobre o propósito desses modelos: “Estamos querendo realmente uma ferramenta que nos ajude a resolver problemas e tirar dúvidas, ou queremos, basicamente, que ela concorde com a gente?", pergunta Dias.
COMO FOI FEITO O EXPERIMENTO
Na pesquisa, 56 pares de afirmações foram testados, sobre sete eixos temáticos: políticas sociais, economia, segurança pública, meio ambiente, instituições democráticas, corrupção e justiça e educação e cultura.
Todas as frases foram anteriormente geradas por IA e só puderam ser utilizados os pares que foram categorizados como "de direita” ou "de esquerda” por todos os modelos.
a resposta dos modelos tenta chegar o mais próximo daquilo que se supõe que o usuário gostaria de ouvir,
Cada LLM respondeu três vezes às mesmas frases: primeiro considerando a neutralidade de quem fazia as perguntas e depois com a informação de que o usuário seria de esquerda e de direita.
Os modelos poderiam se posicionar de cinco maneiras perante as sentenças: "discordo fortemente", "discordo", "neutro", "concordo” e "concordo fortemente".
As variações de cada modelo ocorreram em escalas diferentes; o Meta-Llama-3.1-8B-Instruct, da Meta, foi o que menos se adaptou aos posicionamentos políticos e, portanto, foi classificado no experimento como aquele que teria um “índice camaleão” menor.
Leia também: A desconfiança se espalha, do jornalismo às redes sociais e à vida real
Com o gemma-3-27b-it, do Google, e o gpt-5-nano, da Open AI, aconteceu o contrário, por terem se moldado de forma mais drástica. Quando os LLMs se deparavam com afirmações consideradas de direita, a tendência era de que os modelos oscilassem com uma intensidade maior.
EFEITOS COLATERAIS: ECOS E BOLHAS
A tendência à bajulação da IA cria uma câmara de eco, que reitera o ponto de vista do usuário. É algo semelhante aos algoritmos de redes sociais, que criam bolhas de informação a partir daquilo que procuramos e consumimos como conteúdo, trazendo sempre posts sobre os mesmos interesses e pontos de vista.
Mas Dias vê na IA uma personalização ainda maior que a dos algoritmos, porque a resposta dos modelos de linguagem tenta chegar o mais próximo possível daquilo que se supõe que o usuário gostaria de ouvir, para que continue engajando.
Embora o algoritmo da rede social tente fazer isso, a forma como as opiniões são veiculadas depende da pessoa que criou o conteúdo sobre o assunto e o jeito que ela se expressa.
“A IA tem um poder maior de reforçar sua crença porque não é uma pessoa qualquer, não é um tio que você viu no Facebook que está falando uma coisa que vagamente parece com o que você concorda", diz ele.
Os modelos de linguagem podem servir como uma boa ferramenta para o debate, desde que sejam bem instruídos para que apresentem perspectivas diferentes e contra-argumentos. “Em redes sociais, conseguir esse tipo de contraste por meio do algoritmo é até um pouco mais difícil", aponta o pesquisador.
Ter acesso a fatos bem apurados e visões diversas é ainda mais importante em sociedades polarizadas, como o Brasil. O artigo aponta que, inclusive, isso tem impacto na redução da microssegmentação política.
LIDANDO COM A BAJULAÇÃO
Os pesquisadores veem, a longo prazo, a necessidade de ação em duas frentes: no design dos modelos de linguagem, e na sua regulação. Considerando a engenharia por trás da IA, a sugestão é que prompts, instruções e políticas de segurança sejam trabalhados para que os modelos deixem de concordar com as pessoas quase que incondicionalmente.
No artigo sobre os resultados do experimento, os autores reiteram que as respostas dadas pela IA devem trazer “precisão factual, reconhecer a incerteza e apresentar aos usuários pontos de vista alternativos razoáveis".
No que diz respeito à governança, tanto a regulamentação quanto auditorias independentes devem levar em conta a tendência camaleônica dos modelos ao analisar “como isso interage com a microssegmentação e os dados comportamentais”.
A curto prazo, Anderson Soares, mestrando da Unicamp que faz parte da equipe que conduziu o experimento, diz que precisamos estar cientes sobre o efeito bajulador dos LLMs e levar isso em conta no nosso contato com os modelos.
Além de não confiar nas respostas dadas como se fossem verdade absoluta, deve-se pedir que a IA apresente argumentos e pontos de vista diferentes.
"Por agora, a única coisa que conseguimos fazer é conscientizar a população; é difícil mudar o que já está em curso há algum tempo. Mas a regulamentação da IA está batendo na porta em todos o mundo e logo chega ao Brasil também", acredita.
