Chatbots podem reforçar pensamentos nocivos e dependência emocional
À medida que usuários passam a tratar a tecnologia como uma entidade social, os riscos de dependência emocional podem aumentar, aponta pesquisa
Apesar dos repetidos alertas sobre os riscos da inteligência artificial, os usuários têm se tornado cada vez mais dependentes de chatbots de IA, especialmente daqueles que oferecem companhia.
Ainda que os chatbots sejam úteis para tarefas como responder a perguntas rápidas ou oferecer conselhos breves, seus benefícios podem não estar compensando os custos.
Um novo estudo, realizado por pesquisadores do Instituto de Ciência de Redes da Universidade Northeastern, sugere que os chatbots de IA usados como companhia, apesar de oferecerem benefícios momentâneos, estão causando danos e prejuízos psicológicos de longo prazo a seus usuários.
O estudo investiga um fenômeno cada vez mais comum, no qual usuários recorrem a plataformas de companheiros de IA em busca de serviços como apoio emocional e bem-estar.
A pesquisa analisou tanto chatbots de IA desenvolvidos especificamente para esse propósito, como Replika e Character.AI, quanto os chatbots populares, como o ChatGPT, da OpenAI, e o Claude, da Anthropic.
Entre os diferentes modelos, a história costuma ser parecida: o usuário recorre à IA em busca de aconselhamento e ela responde de maneira bajuladora, envolvendo-o ainda mais, especialmente à medida que a pessoa começa a antropomorfizar a tecnologia.
“As respostas fluentes e aparentemente empáticas desses modelos levam os usuários a interagir com eles não apenas como ferramentas, mas também como se fossem entidades sociais”, afirma o estudo.
“Essa forma de enquadramento é conceitualmente enganosa e pode representar riscos para diferentes perfis de usuários, especialmente para indivíduos vulneráveis.”
O estudo, que analisou relatos envolvendo populações clínicas e não clínicas, encontrou algumas evidências de benefícios de curto prazo, como uma breve redução da solidão e uma melhora no humor. Mas, no longo prazo, os efeitos se transformaram em dependência emocional, ideação delirante e, em alguns casos, até automutilação.
Leia mais: IA em foco: tragédia com jovem de 16 anos levanta alerta sobre limites do ChatGPT
O estudo não é a primeira evidência dos possíveis efeitos adversos da dependência de chatbots de IA. As consequências de usuários recorrerem a esse recurso em busca de apoio emocional em vez de procurar profissionais experientes vêm recebendo atenção especial nos últimos anos, após uma série de casos de grande repercussão em que adolescentes morreram por suicídio e seus pais responsabilizaram os chatbots de IA.
