'Deathbots': testamos os robôs de IA que permitem 'conversar com os mortos'

De chatbots baseados em texto que imitam entes queridos a avatares de voz que permitem que você “converse” com os falecidos, uma crescente indústria digital do além promete tornar a memória interativa e, em alguns casos, eterna.

Em nossa pesquisa, publicada recentemente na revista científica Memory, Mind & Media, exploramos o que acontece quando a lembrança dos mortos é deixada a cargo de um algoritmo. Nós até tentamos conversar com versões digitais de nós mesmas para descobrir.

Eles se baseiam nos traços digitais de uma pessoa — gravações de voz, mensagens de texto, e-mails e postagens nas redes sociais — para criar avatares interativos que parecem “falar” do além-túmulo.

Como disse a teórica da mídia Simone Natale, essas “tecnologias da ilusão” têm raízes profundas nas tradições espiritualistas. Mas a IA as torna muito mais convincentes e comercialmente viáveis.

Nosso trabalho faz parte de um projeto chamado Synthetic Pasts, que explora o impacto da tecnologia na preservação da memória pessoal e coletiva.

Para nosso estudo, analisamos serviços que afirmam preservar ou recriar a voz, as memórias ou a presença digital de uma pessoa usando IA.

Em alguns casos, desempenhamos o papel de usuários preparando nossas próprias vidas pós-morte sintéticas. Em outros, atuamos como enlutados tentando conversar com uma versão digital de alguém que faleceu.

O que descobrimos foi fascinante e inquietante.

Alguns sistemas se concentram em preservar a memória. Eles ajudam os usuários a gravar e armazenar histórias pessoais, organizadas por tema, como infância, família ou conselhos para entes queridos. A IA então indexa o conteúdo e orienta as pessoas por ele, como um arquivo pesquisável.

Outros usam IA generativa para criar conversas contínuas. Você carrega dados sobre uma pessoa falecida — mensagens, postagens, até mesmo amostras de voz — e o sistema cria um chatbot que pode responder no tom e estilo dela. Ele usa um subconjunto da IA chamado aprendizado de máquina (que melhora com a prática) para fazer seus avatares evoluírem ao longo do tempo.

Alguns se apresentam como divertidos (“faça uma sessão espírita com IA”), mas a experiência pode parecer assustadoramente íntima.

Todas as plataformas afirmam oferecer uma conexão emocional “autêntica”. No entanto, quanto mais personalização tentávamos, mais artificial parecia.

Quando solicitados por esses sistemas, fornecemos mais informações sobre nós mesmas, apenas para que o bot repetisse exatamente as frases que usamos em respostas rígidas e programadas.

Às vezes, o tom era incongruente, como quando emojis alegres ou frases otimistas apareciam mesmo ao discutir a morte — um lembrete claro de que os algoritmos são ruins em lidar com o peso emocional da perda:

As ferramentas mais baseadas em arquivos que testamos proporcionaram uma experiência mais tranquila, mas também impuseram categorias rígidas e nuances limitadas.

Como observou o estudioso de mídia digital Andrew Hoskins, a memória na era da IA se torna “conversacional” — moldada pelas interações entre humanos e máquinas.

Mas, em nossos experimentos, essas conversas muitas vezes pareciam monótonas, expondo os limites da intimidade sintética:

Por trás dessas experiências existe um modelo de negócios. Não se trata de instituições funerárias de caridade, mas de startups de tecnologia.

Taxas de assinatura, níveis “freemium” e parcerias com seguradoras ou prestadores de serviços de saúde revelam como a lembrança está sendo transformada em um produto.

Como os filósofos Carl Öhman e Luciano Floridi argumentaram, a indústria digital do além-vida opera dentro de uma “economia política da morte”, onde os dados continuam a gerar valor muito tempo depois do fim da vida de uma pessoa.

As plataformas incentivam os usuários a “capturar sua história para sempre”, mas também coletam dados emocionais e biométricos para manter o engajamento alto.

A memória se torna um serviço — uma interação a ser projetada, medida e monetizada. Isso, como o professor de tecnologia e sociedade Andrew McStay mostrou, faz parte de uma economia mais ampla de “IA emocional”.

A promessa desses sistemas é uma espécie de ressurreição — a reanimação dos mortos por meio de dados. Eles oferecem o retorno de vozes, gestos e personalidades, não como memórias relembradas, mas como presenças simuladas em tempo real.

Esse tipo de “empatia algorítmica” pode ser persuasivo, até mesmo comovente, mas existe dentro dos limites do código e altera silenciosamente a experiência de lembrar, suavizando a ambiguidade e a contradição.

Essas plataformas demonstram uma tensão entre as formas arquivísticas e generativas da memória.

Todas as plataformas, porém, normalizam certas formas de lembrança, privilegiando a continuidade, a coerência e a capacidade de resposta emocional, ao mesmo tempo em que produzem novas formas de personalidade baseadas em dados.

Como observou a teórica da mídia Wendy Chun, as tecnologias digitais muitas vezes confundem “armazenamento” com “memória”, prometendo uma lembrança perfeita enquanto apagam o papel do esquecimento — a ausência que torna possível tanto o luto quanto a lembrança.

A IA pode ajudar a preservar histórias e vozes, mas não pode replicar a complexidade viva de uma pessoa ou de um relacionamento. As “vidas pós-morte sintéticas” que encontramos são atraentes precisamente porque falham. Elas nos lembram que a memória é relacional, contextual e não programável.

Nosso estudo sugere que, embora você possa conversar com os mortos usando IA, o que você ouve em resposta revela mais sobre as tecnologias e plataformas que lucram com a memória — e sobre nós mesmos — do que sobre os fantasmas com os quais eles afirmam que podemos conversar.

Jenny Kidd recebeu financiamento do Leverhulme Trust e do Arts and Humanities Research Council.

Eva Nieto McAvoy não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.