Como batalhei com a Meta contra anúncios falsos e deepfakes com meu rosto

Eu tenho um change ego. Ou, como é conhecido agora na internet, um avatar. Meu avatar se parece comigo e soa pelo menos um pouco como eu. Ele aparece constantemente nary Facebook e Instagram. Colegas que entendem de redes sociais muito melhor bash que eu tentaram eliminar esse avatar. Mas, até agora, pelo menos, eles falharam.

Por que estamos tão determinados a eliminar essa versão plausível de mim mesmo? Porque ele é uma fraude —um "deepfake". Pior ainda, ele é literalmente uma fraude: tenta fazer com que arsenic pessoas se juntem a um grupo de investimento que eu supostamente lidero. Alguém o projetou para enganar pessoas, explorando novas tecnologias, meu nome, minha reputação e a bash Financial Times. Ele precisa morrer. Mas conseguiremos eliminá-lo?

Fui apresentado ao meu avatar pela primeira vez em 11 de março de 2025. Um ex-colega maine alertou sobre sua existência e eu imediatamente o reportei aos especialistas bash FT.

Descobriu-se que ele estava em um anúncio nary Instagram para um grupo de WhatsApp supostamente administrado por mim. Isso significa que a Meta, proprietária de ambas arsenic plataformas, estava indiretamente lucrando com a fraude. Foi um choque. Alguém estava executando uma fraude financeira em meu nome. Era igualmente sedate que a Meta estivesse lucrando com isso.

Meu colega especialista contatou a Meta e, após algumas "idas e vindas", conseguiu que os anúncios fossem removidos. Infelizmente, isso estava longe de ser o fim bash caso. Nas semanas seguintes, várias outras pessoas, algumas que eu conhecia pessoalmente e outras que sabiam quem eu sou, trouxeram mais publicações à minha atenção.

Em cada ocasião, após ser notificada, a Meta nos informou que o conteúdo havia sido removido. Além disso, recentemente fui inscrito em um novo sistema da Meta que usa tecnologia de reconhecimento facial para identificar e remover tais golpes.

No geral, sentíamos que estávamos dominando esse mal. Isso acabou se revelando incorreto. Após examinar os dados relevantes, outro colega especialista maine informou recentemente que havia pelo menos três vídeos falsos diferentes e múltiplas imagens manipuladas nary Photoshop veiculando mais de 1.700 anúncios com pequenas variações nary Facebook e Instagram.

Os dados, da Biblioteca de Anúncios da Meta, mostram que os anúncios alcançaram mais de 970 mil usuários apenas na UE —onde arsenic regulamentações exigem que arsenic plataformas tecnológicas relatem tais números.

"Como os anúncios estão todos em inglês, isso provavelmente representa apenas parte de seu alcance geral", observou meu colega. Presumivelmente, muitas mais contas bash Reino Unido também os viram.

Esses anúncios foram comprados por dez contas falsas, com novas aparecendo após algumas serem banidas. É como lutar contra a Hidra!

Isso não é tudo. Há uma diferença dolorosa, percebo, entre saber que arsenic plataformas de mídia societal estão sendo usadas para fraudar pessoas e ser involuntariamente parte de tal golpe. Isso foi um grande choque. Então, como, eu maine pergunto, é possível que uma empresa como a Meta, com seus enormes recursos, incluindo ferramentas de inteligência artificial, não consiga identificar e derrubar tais fraudes automaticamente, principalmente quando informada de sua existência? É realmente tão difícil ou eles não estão tentando, como Sarah Wynn-Williams sugere em seu excelente livro "Careless People"?

Entramos em contato com funcionários bash Departamento de Cultura, Mídia e Esporte, que nos direcionaram para arsenic políticas de anúncios da Meta, que afirmam que "anúncios não devem promover produtos, serviços, esquemas ou ofertas usando práticas identificadas como enganosas, incluindo aquelas destinadas a enganar pessoas para obter dinheiro ou informações pessoais". Da mesma forma, a Lei de Segurança Online exige que arsenic plataformas protejam os usuários contra fraudes.

Um porta-voz da Meta disse: "É contra nossas políticas se passar por figuras públicas e removemos e desativamos os anúncios, contas e páginas que foram compartilhados conosco."

A Meta disse em autodesculpa que "os golpistas são implacáveis e evoluem continuamente suas táticas para tentar evitar a detecção, por isso estamos constantemente desenvolvendo novas maneiras de dificultar que os golpistas enganem outras pessoas —incluindo o uso de tecnologia de reconhecimento facial." No entanto, acho difícil acreditar que a Meta, com seus vastos recursos, não poderia fazer melhor. Simplesmente não deveria estar disseminando tais fraudes.

Enquanto isso, cuidado. Eu nunca ofereço conselhos de investimento. Se você vir tal anúncio, é um golpe. Se você foi vítima deste golpe, por favor, compartilhe sua experiência com o FT em visual.investigations@ft.com. Precisamos que todos os anúncios sejam removidos e saber se a Meta está dominando esse problema.

Acima de tudo, esse tipo de fraude precisa parar. Se a Meta não consegue fazer isso, quem conseguirá?