Estilo Black Mirror: pode uma IA ajudar a aliviar o luto por um ente querido?
As possíveis consequências do uso em larga escala de IA para lidar com o luto fazem parte de “um vasto experimento tecnocultural”
Quando Michael Bommer descobriu que tinha câncer de cólon terminal, ele passou muito tempo conversando com sua esposa, Anett, sobre o que aconteceria após sua morte.
Ela disse que uma das coisas de que mais sentiria falta seria poder fazer perguntas sempre que quisesse, porque ele é muito culto e sempre compartilha sua sabedoria. Dessa conversa surgiu uma ideia: recriar sua voz usando inteligência artificial para que ela pudesse ouvir seus conselhos mesmo após sua morte.
O empreendedor, de 61, anos procurou seu amigo Robert LoCascio, CEO da plataforma Eternos. Em dois meses, eles construíram “uma versão abrangente e interativa de IA” de Bommer – o primeiro cliente da empresa.
A Eternos afirma que sua tecnologia permitirá que a família de Bommer “se envolva com suas experiências e percepções de vida”. A empresa está entre várias que surgiram nos últimos anos no crescente espaço de tecnologia de IA voltada para o luto.
Uma das startups mais conhecidas nesta área, a StoryFile, permite que as pessoas interajam com vídeos pré-gravados e utiliza algoritmos para detectar as respostas mais relevantes às perguntas dos usuários.
Outra empresa, chamada HereAfter AI, oferece interações semelhantes através de um avatar criado a partir de histórias pessoais ou de respostas a uma lista de perguntas.
Existe também o Project December, um chatbot que permite que os usuários preencham um questionário com fatos importantes sobre uma pessoa e suas características – e, por US$ 10, oferece a possibilidade de ter uma conversa em texto com esse personagem.
Já a Seance AI oferece sessões espíritas fictícias gratuitamente, com recursos como recriações de voz de entes queridos geradas por IA, disponíveis por US$ 10.
DEADBOTS E GRIEFBOTS
Embora alguns tenham adotado esta tecnologia como forma de lidar com o luto, outros se sentem desconfortáveis com o fato de as empresas utilizarem inteligência artificial para tentar manter interações com aqueles que já se foram. Alguns ainda temem que isso possa tornar o processo de luto mais difícil.
Katarzyna Nowaczyk-Basinska, pesquisadora do Centro para o Futuro da Inteligência da Universidade de Cambridge e coautora de um estudo sobre o tema, ressalta que se sabe muito pouco sobre as possíveis consequências de curto e longo prazo do uso de simulações digitais de pessoas falecidas em grande escala. Por enquanto, isso continua a ser “um vasto experimento tecnocultural”.
“O que realmente diferencia esta era – algo inédito na longa história da busca da humanidade pela imortalidade – é que, pela primeira vez, o processo de pensar nos mortos e as práticas de imortalização estão totalmente integrados ao mercado capitalista”, diz ela.
Matthias Meitzler, sociólogo da Universidade de Tuebingen, na Alemanha, afirma que, embora alguns possam ficar surpresos ou até assustados com a tecnologia – “como se uma voz do além estivesse falando” –, outros a verão como um complemento às formas tradicionais de lembrar de entes queridos falecidos, como visitar o túmulo, olhar fotos e ler cartas antigas.
Mas Tomasz Hollanek, que trabalhou ao lado de Nowaczyk-Basinska no seu estudo sobre “deadbots” e “griefbots”, como são chamados estes chatbots, diz que a tecnologia levanta questões importantes sobre os direitos, a dignidade e o poder de consentimento de pessoas que já faleceram.
Pela primeira vez, o processo de pensar nos mortos e as práticas de imortalização estão integrados ao mercado.
A versão IA de Bommer criada pela Eternos usa um modelo interno, bem como grandes modelos externos de linguagem desenvolvidos por empresas como Meta, OpenAI e Mistral AI. A Eternos grava os usuários falando 300 frases e depois comprime essas informações através de um processo computacional de dois dias.
Os usuários podem treinar ainda mais o sistema de inteligência artificial respondendo a perguntas sobre suas vidas, visões políticas e vários outros aspectos de suas personalidades. A voz de IA, cuja configuração custa US$ 15 mil, pode responder perguntas e contar histórias sem repetir respostas pré-gravadas.
Os direitos legais pertencem à pessoa sobre a qual ela foi treinada, podem ser tratados como um ativo e passados para outros membros da família.
Bommer tem passado a maior parte do seu tempo alimentando a IA com frases “para dar a ela a oportunidade não apenas de sintetizar minha voz, mas também de capturar emoções”.
No caso de sua esposa de 61 anos, ele não acha que isso atrapalharia o processo de luto. Mas a própria Anett Bommer é mais hesitante em relação ao novo software e se o usará após a morte do marido.
No momento, ela se imagina mais sentada no sofá com uma taça de vinho, abraçando um dos suéteres antigos de Bommer e lembrando dele, em vez de sentir a necessidade de conversar com um robô de voz. “Mas quem sabe como será quando ele não estiver mais por perto?”, diz ela.