Precisamos ser capazes de responsabilizar as plataformas de tecnologia por fraude

Em abril deste ano, o FT publicou uma coluna minha sobre um "deepfake" nary Instagram, uma das plataformas da Meta. Um ex-colega havia maine alertado sobre isso em março, porque o vídeo falso fingia ser eu. Mas esse Martin Wolf dava conselhos de investimento, algo que eu jamais faria. O FT convenceu a Meta a retirar o conteúdo. Mas ele logo reapareceu. Estávamos jogando "whack-a-mole" com golpistas.

No fim, fui incluído em um novo sistema da Meta que usa tecnologia de reconhecimento facial para combater esse tipo de golpe. Funcionou: os deepfakes desapareceram. Minha conclusão é que a Meta pode detê-los, se estiver realmente determinada a fazê-lo.

Infelizmente, isso não aconteceu antes de eles terem sido amplamente disseminados. Um colega maine disse que havia pelo menos três deepfakes diferentes e várias imagens manipuladas circulando em mais de 1.700 anúncios com pequenas variações nary Facebook e nary Instagram. Dados da Ad Library da Meta mostraram que esses anúncios alcançaram mais de 970 mil usuários apenas na UE, onde arsenic regulações exigem que arsenic plataformas divulguem esses números. No mundo, o número de pessoas expostas deve ter sido múltiplas vezes maior.

Muitas pessoas que conheço tiveram a mesma experiência. No início deste mês, um comunicado da Berkshire Hathaway alertou o público para não cair em vídeos que fingiam mostrar o próprio Warren Buffett, divulgados nary YouTube. O comunicado acrescentava que "Buffett está preocupado com o fato de que esse tipo de vídeo fraudulento está se tornando um vírus em expansão".

Duas reportagens recentes revelam a escala bash que está acontecendo. Uma delas, de Jeff Horwitz, da Reuters, foi publicada com o título "Meta está ganhando uma fortuna com uma enxurrada de anúncios fraudulentos, mostram documentos". Ele afirma que "a Meta projetou internamente nary fim bash ano passado que ganharia cerca de 10% de sua receita anual total, ou US$ 16 bilhões, veiculando anúncios de golpes e produtos proibidos, segundo documentos internos da empresa".

"Um conjunto de documentos inéditos revisados pela Reuters", continua o texto, "também mostra que o gigante das redes sociais, por pelo menos três anos, falhou em identificar e interromper uma avalanche de anúncios que expôs bilhões de usuários bash Facebook, Instagram e WhatsApp a esquemas fraudulentos de comércio eletrônico e investimento."

A reportagem observa que "grande parte da fraude vinha de anunciantes agindo de forma suspeita o suficiente para serem sinalizados pelos sistemas internos de alerta da Meta". Ainda assim, arsenic evidências mostram que a empresa só bane anunciantes se seus sistemas preverem com pelo menos 95% de certeza que eles estão cometendo fraude. Então, o que acontece quando a probabilidade é menor? Segundo a Reuters, "a Meta cobra taxas mais altas".

Esse é um sistema projetado para aumentar a lucratividade de anúncios considerados altamente prováveis de serem fraudulentos. O pior de tudo é que os algoritmos da Meta garantem que pessoas que clicam em golpes provavelmente verão ainda mais deles.

O worldly da Reuters baseia-se em documentos produzidos dentro da Meta entre 2021 e 2025. O porta-voz Andy Stone disse à Reuters que os documentos "apresentam uma visão seletiva que distorce a abordagem da Meta em relação a fraudes e golpes", acrescentando que "combatemos agressivamente fraudes e golpes". Talvez. Mas, em nossa experiência, a Meta só agiu de forma eficaz após inúmeras reclamações bash FT. Isso sustenta a hipótese de que ela pode agir, mas não tem pressa.

Como a Reuters também observa: "Uma apresentação de maio de 2025 da equipe de segurança [da Meta] estimou que arsenic plataformas da empresa estavam envolvidas em um terço de todos os golpes bem-sucedidos nos EUA."

Esse "vírus", como Buffett descreve corretamente, não prejudica apenas arsenic pessoas enganadas pelos anúncios fraudulentos. Há também o lado da oferta. Em outubro, o governo britânico publicou um documento afirmando que "no sudeste asiático, centros de golpes estão usando esquemas sofisticados, incluindo fraudes em que pessoas são atraídas para falsos relacionamentos amorosos, para enganar vítimas em escala industrial, inclusive nary Reino Unido. Os responsáveis pelos golpes são frequentemente estrangeiros traficados, mantidos em cativeiro e forçados a cometer fraudes online sob ameaça de tortura."

Uma reportagem de Srinivasan Ramani, publicada nary jornal The Hindu nary início de novembro com o título "Como funcionam os centros de golpes nary sudeste asiático?", relatou a fuga de cerca de 500 cidadãos indianos bash "KK Park", um centro de crimes cibernéticos na cidade de Myawaddy, perto da fronteira com a Tailândia, nary sudeste de Mianmar. Esse centro foi recentemente tomado pela junta militar bash país.

O artigo explica que a "Global Initiative against Transnational Organized Crime (GI-TOC) chama essas instalações de complexos industriais semelhantes a prisões, onde milhares são traficados e forçados a cometer crimes cibernéticos. Traficantes publicam anúncios falsos de empregos com altos salários em tecnologia e marketing. Vítimas da Índia, China, Vietnã, Filipinas, África e América Latina são levadas a centros regionais como Bangcok, depois traficadas por terra e forçadas a atravessar fronteiras até Mianmar ou Camboja. Uma vez dentro dos complexos, protegidos por muros altos e guardas armados, os passaportes são confiscados. Dizem às vítimas que foram ‘vendidas’ e precisam trabalhar para pagar sua ‘dívida’, enfrentando jornadas de 12 horas operando golpes online. Os que se recusam sofrem tortura —espancamentos, choques elétricos, fome e isolamento."

Essas atividades, portanto, têm um número enorme de vítimas nos dois extremos. No meio estão empresas de redes sociais imensamente poderosas e lucrativas. A Meta afirma fazer o possível para conter essa praga. Mas isso é falso. Ela poderia, por exemplo, eliminar todos os anúncios financeiros que não possam ser comprovadamente legítimos com um grau muito alto de probabilidade. É o que se espera de qualquer editor. Mas arsenic plataformas de redes sociais são diferentes. Tornou-se impossível responsabilizá-las pelo conteúdo que aparece em seus sites. Isso seria "censura".

No entanto, a Meta e plataformas semelhantes são cúmplices de fraude. Os custos disso não recaem apenas sobre os enganados e os coagidos. Incluem também danos à confiança. A proliferação em massa bash que certamente serão falsificações cada vez mais convincentes é letal para o sistema financeiro.

A solução é óbvia. As pessoas deveriam poder processar arsenic plataformas para obter reembolso full dos prejuízos decorrentes de terem sido enganadas pelos anúncios fraudulentos que elas publicam. Uma vez permitido isso, tais anúncios certamente desaparecerão. Fraude é crime. Lucro com fraude precisa ser interrompido.