Falar com mortos? Fenômeno de 'fantasmas digitais' criados por IA gera riscos graves

Em entrevista ao TechTudo, o psicólogo Eduardo H. Fagundes Oliveira explica como essa tecnologia pode interferir no processo de luto, criar dependência emocional e produzir dilemas éticos sobre memória e consentimento.

No índice abaixo, confira os tópicos que serão abordados nesta matéria especial do TechTudo.

A humanidade sempre buscou formas de preservar a memória dos mortos. Fotografias, gravações e cartas funcionam como registros reais do passado, porém, o que muda agora é a possibilidade de simulação ativa, com respostas inéditas produzidas por IA.

O psicólogo Eduardo H. Fagundes Oliveira contextualiza essa transformação histórica ao lembrar que, ao longo dos séculos, desenvolvemos tecnologias para guardar lembranças. O cenário atual, porém, traz uma mudança qualitativa.

Se antes era possível revisitar apenas registros reais, agora a tecnologia cria interações que nunca aconteceram. "Hoje, a IA permite algo inédito: a simulação de voz e a geração de falas que nunca foram efetivamente pronunciadas em vida.” Nesse contexto, a voz, segundo o psicólogo, deixa de ser um elemento técnico e passa a ocupar um lugar especial na experiência psíquica. Ele complementa:

Mesmo quando há consciência racional de que se trata de uma simulação, a resposta emocional pode ser autêntica. O especialista lembra que pesquisas sobre presença parasocial mostram que o cérebro reage de forma genuína a estímulos artificiais, razão pela qual a recriação digital pode ser polêmica no processo do luto.

Uma das maiores preocupações da ciência é o impacto sobre o processo de luto. Eduardo lembra que a dificuldade de lidar com a finitude é estrutural na experiência humana e cita o antropólogo Ernest Becker, que em A negação da morte sustenta que “o ser humano investe grande parte de sua energia psíquica na tentativa de negar a própria finitude. É como se, no fundo, buscasse convencer a si mesmo de que, ao final, tudo não terminará de forma definitiva”.

Embora existam modelos clássicos que descrevem estágios como negação, raiva e aceitação, hoje se reconhece que o luto não é linear. Ainda assim, Oliveira alerta que a tecnologia pode interferir nesse percurso:

A interação constante com a simulação pode dificultar a assimilação da perda. Segundo ele, “a possibilidade de interação em tempo real com uma representação digital do falecido pode sustentar a sensação subjetiva de continuidade do vínculo, retardando o enfrentamento da ausência definitiva e a reorganização emocional necessária ao processo de elaboração do luto.”

Esse cenário pode contribuir para o chamado luto complicado, em que o sofrimento permanece intenso e incapacitante por longos períodos, dificultando a retomada da vida funcional.

Para além do luto em si, há o risco de substituição das relações humanas reais por uma versão digital previsível e moldada às expectativas do usuário. O psicólogo amplia a análise com base no filósofo canadense Charles Taylor, autor de As fontes do Self. Taylor descreve o sujeito moderno como um “eu protegido”, marcado por autonomia e autocontrole.

No contexto dos deadbots, isso pode se traduzir em uma relação mais confortável do que as reais. A IA tende a responder de forma ajustada aos desejos do usuário, oferecendo validação constante e previsibilidade emocional.

Para o psicólogo, o problema não se limita ao funcionamento da ferramenta ou aos seus limites técnicos. A preocupação maior está nas consequências emocionais e existenciais que podem surgir do uso prolongado dessas simulações.

Se a tecnologia pode prolongar a sensação de presença, ela também pode interrompê-la abruptamente. Falhas técnicas ou o encerramento do serviço podem apagar o fantasma digital de um dia para o outro.

Eduardo explica que o luto é um movimento de adaptação diante da ruptura de um vínculo significativo. Quando o usuário estabelece uma interação diária e emocionalmente intensa com o deadbot, sua exclusão repentina pode reativar o sofrimento inicial.

Ele descreve essa hipótese como uma segunda perda: “Esta experiência pode ser percebida como uma segunda perda, reativando sentimentos já elaborados ou ainda não resolvidos.” Oliveira observa que, como se trata de um fenômeno recente, os impactos ainda carecem de investigação aprofundada, mas a combinação entre apego emocional e desaparecimento súbito pode intensificar o sofrimento.

Além dos efeitos psicológicos, os deadbots também levantam dilemas éticos e jurídicos relevantes. Para Eduardo, não existe um direito absoluto de recriar digitalmente alguém que morreu, mesmo que tenha havido uma relação profunda em vida. A questão central, segundo ele, deveria ser outra: a própria pessoa falecida teria autorizado esse tipo de recriação?

O psicólogo lembra que, na convivência humana, não temos controle total sobre o que o outro diz ou como escolhe se posicionar. A identidade é construída também pelas discordâncias, pelos limites e até pelos silêncios. Em uma simulação digital, porém, essa dinâmica muda.

Ao programar respostas, ajustar tom de voz e selecionar quais memórias serão priorizadas, o criador do deadbot passa a interferir diretamente na forma como aquela personalidade será percebida. Com isso, a representação pode deixar de refletir a complexidade do indivíduo real e começar a reproduzir a versão que o sobrevivente deseja preservar. Ou seja, a memória pode ser distorcida.

Veja também: este vídeo é real ou inteligência artificial?