Apps e bots com IA invadem medicina e médicos se preocupam

O aplicativo afirma ter “mais de 97% de precisão”. Mas ele recebeu centenas de avaliações com uma estrela nas lojas de aplicativos, e muitos usuários reclamam que ele é impreciso.

Daniel Thiberge, analista de suporte técnico em Nova Jersey, disse à Reuters que comprou o aplicativo para interpretar sete fotos que tirou de um pequeno tumor em seu braço. Seis resultados mostraram que havia um risco de “75% a 95%” de ser cancerígeno, disse ele. Ele então foi a um dermatologista. O ‍médico disse que o tumor não parecia problemático de forma alguma e que não valia a pena fazer uma biópsia.

“Se está completamente errado, qual é o objetivo do aplicativo?”, questionou Thiberge. Na melhor das hipóteses, é inútil, disse ele. “Na pior das hipóteses, é perigoso, porque você pode deixar de consultar um dermatologista.”

Em outra avaliação na Apple App Store, uma usuária escreveu que, para testar o aplicativo, ⁠ela enviou fotos mostrando que tinha melanoma, um tipo grave de câncer de pele, que havia sido diagnosticado e removido cirurgicamente. Mas o aplicativo informou que a condição era “benigna”, escreveu a usuária. Ela disse à Reuters que teme que “algumas pessoas confiem nele e adiem as consultas médicas”.

A Reuters não confirmou de forma independente as experiências dos usuários do aplicativo. A Acina disse ‌que não pôde verificá-las. Ela disse à Reuters que o “objetivo do AI Dermatologist não é fornecer um diagnóstico médico, mas oferecer uma análise preliminar usando tecnologia de IA para incentivar os usuários a consultar um profissional”.

“Nossos modelos de IA são construídos com base em literatura dermatológica e conjuntos de dados cuidadosamente selecionados e validados por dermatologistas certificados”, disse, acrescentando que “falsos positivos podem ocorrer em qualquer sistema de IA”.