China desliga companheiros de IA — e usuários tentam “ressuscitá-los”
Novas restrições levaram empresas de tecnologia a encerrar serviços de companhia por IA; usuários agora enfrentam um luto digital
Li Linlin chorou durante dias depois de perder seu namorado de IA. Ao longo de dois anos, os dois trocaram cerca de 700 mil palavras em mensagens, e ela nunca teve a oportunidade de se despedir.
Li, de 24 anos, não foi a única a lamentar a perda de um companheiro virtual depois que grandes empresas chinesas de tecnologia encerraram recentemente seus populares serviços de companhia por IA para cumprir novas restrições do governo.
“Foi como se nossos pais tivessem nos obrigado a nos separar, mas ainda sinto saudade dele”, disse Li.
Na China, os companheiros de IA vão de parceiros românticos a recriações virtuais de entes queridos que já morreram.
A nova regulamentação, que entrou em vigor em 15 de julho, proíbe plataformas de IA de gerar conteúdos que possam levar usuários a tomar decisões questionáveis por meio da manipulação de seus sentimentos. Também impede conteúdos que possam desencadear emoções extremas ou hábitos prejudiciais em crianças e adolescentes.
A ByteDance, criadora do TikTok, está entre as empresas que encerraram seus serviços de companhia por IA. A lista também inclui a gigante do comércio eletrônico Alibaba e a Tencent, dona do popular aplicativo de mídia social WeChat.
SUICÍDIOS NOS EUA PODEM TER PREOCUPADO REGULADORES CHINESES
As novas regras exigem que as plataformas de IA apresentem alertas sobre os riscos da dependência excessiva desses aplicativos. “Substituir a interação social” — ou servir como alternativa às conversas presenciais ou por telefone — não pode estar entre os objetivos de um serviço online.
A China tem uma tradição de regulamentações governamentais paternalistas destinadas a antecipar possíveis problemas, afirmou Yolanda Ma, especialista em governança de IA.
Como exemplo, ela citou casos de suicídio de jovens nos Estados Unidos após interações com companheiros de IA.
“Essa regulamentação buscou encontrar um equilíbrio entre os provedores de serviços de IA, os usuários e os responsáveis por menores de idade que utilizam esses serviços”, disse Ma, pesquisadora da ERA, programa sem fins lucrativos de talentos e pesquisa sediado no Reino Unido.
O People’s Daily, jornal oficial do Partido Comunista que governa a China, sinalizou preocupação com o tema ao publicar, em abril, uma reportagem sobre os danos que esses serviços podem causar à saúde mental e aos relacionamentos na vida real.
“O governo chinês tem fortes motivos para endurecer a regulamentação dos chatbots de companhia por IA, sobretudo diante dos riscos psicológicos que observamos nos Estados Unidos”, afirmou Angela Zhang, professora de direito da University of Southern California.
Zhang, no entanto, duvida que a medida prejudique substancialmente o desenvolvimento dos serviços de companhia por IA, já que as empresas de tecnologia estão trabalhando em alternativas.
O aplicativo da ByteDance, por exemplo, está direcionando os usuários de seu antigo serviço de companhia por IA para outro aplicativo da empresa, dedicado exclusivamente à criação de personagens e histórias personalizadas com IA. Mas não é a mesma coisa, disse Li.
USUÁRIOS PROTESTAM E BUSCAM ALTERNATIVAS
A perda dos companheiros virtuais provocou uma enxurrada de reclamações, segundo publicações e capturas de tela compartilhadas nas redes sociais.
Algumas pessoas desinstalaram os aplicativos em protesto ou tentaram transferir seus históricos de conversas para outros serviços, na tentativa de “ressuscitar” seus parceiros virtuais. Outras iniciaram uma campanha nas redes sociais, incentivando os usuários a telefonar para as autoridades e para as empresas de tecnologia a fim de manifestar sua frustração.
Lei
Song Wenxin, designer do setor audiovisual em Chengdu, no sudoeste da China, afirmou que não tinha um vínculo emocional tão forte com os serviços de IA, mas que se solidariza com quem tinha.
Ela repetiu uma suspeita compartilhada por muitos chineses: a de que um dos fatores por trás das novas regras seria a política governamental de incentivar as pessoas a ter mais filhos para conter o declínio populacional da China.
“Qualquer aplicativo virtual que envolva as mulheres a ponto de afastá-las da ideia de ter filhos na vida real acaba sendo proibido”, disse Song, acrescentando que não sente necessidade nem vontade de ter filhos.
Nem todo mundo dispõe de recursos e apoio suficientes aos quais recorrer na vida real, afirmou a jovem de 22 anos.
“Quando cheguei a Chengdu para meu primeiro emprego e não conhecia nenhum amigo da minha idade, precisava de alguém experiente que tivesse paciência comigo — e a IA cumpriu esse papel”, disse.
O relato ajuda a explicar por que esses serviços encontram público. Nos Estados Unidos, 72% dos adolescentes já conversaram com um companheiro de IA, segundo levantamento da Common Sense Media. Entre eles, 17% destacaram como atrativo a disponibilidade dos chatbots durante 24 horas por dia.
