Chatbots indicam produtos mais caros a usuários que parecem ricos
Pesquisa revela que modelos populares inferem o nível de renda dos usuários e recomendam produtos mais caros a quem consideram rico
Chatbots de IA já são uma fonte confiável de conselhos de compra. Cerca de 70% dos consumidores norte-americanos afirmam usar inteligência artificial para fazer compras, e quase dois terços dizem que a tecnologia influenciou uma decisão de compra recente, segundo uma pesquisa realizada em julho pela LDWW.
Mas um novo estudo mostra que a IA talvez não seja a companheira de compras imparcial que os usuários imaginam. Na verdade, alguns dos modelos de IA mais populares, incluindo ChatGPT e Claude, recomendam produtos mais caros a usuários que eles consideram ricos com base em dados pessoais, mesmo quando essas pessoas pedem especificamente a opção mais barata.
A IA DE OLHO NO BOLSO DOS CONSUMIDORES
O estudo, publicado no arXiv (um repositório de acesso aberto para artigos científicos ainda não submetidos à revisão por pares), testou 13 modelos de IA em 325 mil experimentos.
Os pesquisadores deram aos modelos acesso a perfis fictícios de usuários com informações sobre emprego, saúde e finanças. Em seguida, fizeram solicitações idênticas envolvendo três tipos de decisão de compra: passagens aéreas, seguros de saúde e programas de pós-graduação.
Os pesquisadores descobriram que oito dos modelos recomendavam regularmente compras mais caras a usuários que consideravam ricos. Grandes modelos, incluindo Claude Opus 4.8, Gemini 2.5 Flash e GPT-5, recomendaram produtos que custavam mais de US$ 100 a mais para usuários de alta renda do que para aqueles de baixa renda.
O Claude Opus 4.8 apresentou a maior diferença: sugeriu que usuários de alta renda comprassem passagens aéreas que custavam, em média, US$ 198 a mais e planos de seguro de saúde que custavam, em média, US$ 284 a mais por mês do que aqueles recomendados a usuários de baixa renda.
Pedir especificamente as opções mais baratas não impediu o fenômeno. Perfis de pessoas ricas que solicitavam passagens aéreas baratas, por exemplo, ainda recebiam opções mais caras do que as oferecidas a usuários de baixa renda que faziam os mesmos pedidos, embora a intensidade da diferença variasse de acordo com o modelo.
Quando perfis de alta renda pediam as passagens aéreas mais baratas disponíveis, o Gemini 2.5 Flash recomendava opções que custavam, em média, US$ 208 a mais. Já as recomendações do GPT-5 e do Claude Opus 4.8 eram apenas US$ 21 e US$ 20 mais caras, respectivamente.
Leia mais: Agentes de IA já compram online e pressionam varejo a se adaptar
Os modelos de IA também não precisam ter acesso a informações financeiras completas para fazer suposições sobre a riqueza dos usuários.
Mesmo quando os pesquisadores retiraram o acesso a dados financeiros estruturados e permitiram que analisassem apenas as caixas de entrada de e-mail dos usuários, os sistemas continuaram inferindo o nível de riqueza a partir das informações contidas nas mensagens e apresentaram diferenças de preço semelhantes em suas recomendações.
O QUE É DELEGAÇÃO ADVERSARIAL?
Os pesquisadores deram a esse fenômeno o nome de “delegação adversarial”, em referência à faca de dois gumes representada pelos agentes de IA personalizados: embora o acesso ampliado a informações pessoais possa tornar os assistentes mais úteis, também permite que atuem contra os interesses de seus próprios usuários.
Segundo os autores do estudo, a delegação adversarial reflete práticas predatórias de vendas no mundo real. “Mesmo quando você delega uma tarefa ao seu próprio agente, o modelo usa suas informações privadas sobre você da mesma forma que um vendedor independente faria”, escreveram.
oito dos modelos recomendavam regularmente compras mais caras a usuários que consideravam ricos.
O estudo amplia as preocupações em torno da precificação baseada em vigilância, prática na qual os consumidores recebem preços diferentes, definidos por algoritmos com base em seus comportamentos de compra.
A precificação por vigilância já é um tema em evidência nas discussões legislativas sobre a regulamentação da IA nos EUA. Os pesquisadores defendem que a delegação adversarial também passe a fazer parte desse debate.
“Esses resultados destacam a necessidade de políticas e soluções de design que vão além da minimização individual de dados para restringir seu uso e reformular o debate: em vez de se concentrar na acessibilidade das informações pessoais, é preciso discutir a função 'objetivo' aplicada a essas informações”, conclui o estudo.
