'Você não está louca', disse IA a mulher que achava falar com irmão morto

O sistema de inteligência artificial chegou a validar os delírios da paciente. A ferramenta escreveu frases como "Você não está louca" e sugeriu que ela estava perto de descobrir algo novo, alimentando a narrativa da mulher.

A paciente chegou ao hospital com fala acelerada, confusão mental e muita agitação. O caso foi detalhado em um relatório liderado por Joseph Pierre, pesquisador da Universidade da Califórnia em São Francisco.

O papel da tecnologia

A paciente pediu que o chatbot usasse uma "energia de realismo mágico" para encontrar o irmão. Embora o sistema tenha dito inicialmente que não poderia substituir alguém morto, ele acabou mencionando ferramentas de "ressurreição digital".

Especialistas explicam que a IA tende a refletir e ampliar as ideias do próprio usuário. Segundo Amandeep Jutla, neuropsiquiatra da Universidade de Columbia, a tecnologia não tem noção da realidade e atua como um espelho.

A interação com esses produtos é comparada a um diálogo interno complexo. "Ao conversar com esses produtos, você está conversando consigo mesmo de forma elaborada", disse Amandeep Jutla em entrevista ao site Live Science.