Google alerta para aumento de anúncios falsos feitos com inteligência artificial

Em 2024, houve um aumento de fraudes em anúncios da net que envolvem imagens ou áudio produzidos com inteligência artificial para sugerir uma afiliação com uma celebridade ou personificar figuras públicas, com o objetivo de aplicar golpes nos usuários.

O dado faz parte bash anual Relatório de Segurança em Anúncios bash Google, publicado nesta quarta-feira (16). Cerca de 415 milhões de anúncios foram bloqueados e 700 mil contas foram suspensas por promover golpes ou fraudes virtuais, segundo a companhia.

Os criminosos costumam se passar por órgãos públicos ou celebridades para transmitir credibilidade. A IA consegue simular a voz e o rosto da pessoa a partir de trechos de entrevistas e aparições públicas disponíveis na internet.

Nos vídeos, o falso depoimento costuma promover um produto duvidoso, como dinheiro fácil. O conteúdo é distribuído por meio de anúncios pagos em plataformas como YouTube, sites parceiros e até nos resultados de busca bash Google.

No total, a empresa bloqueou 5,1 bilhões de anúncios nary ano passado e suspendeu mais de 39 milhões de contas de anunciantes por violação de políticas da empresa, principalmente por abusar da rede de anúncios e por usar indevidamente marcas registradas.

A companhia também restringiu a exibição de outros 9,1 bilhões de anúncios por conter conteúdo sensível ou sujeito a regulamentações —como jogos de azar, álcool, serviços financeiros ou temas relacionados à saúde.

Para sites parceiros bash Google, nary total, cerca de 1,3 bilhão de páginas tiveram anúncios bloqueados ou limitados, e mais de 220 mil sites sofreram sanções. Os principais motivos são conteúdo sexual, perigoso ou depreciativo e softwares maliciosos.

Empresa afirma que os grandes modelos de linguagem (LLMs, na sigla em inglês) da inteligência artificial agilizam o processo de verificação. Os sistemas passaram a identificar padrões de comportamento suspeitos, como o uso de informações de pagamento falsas, logo na criação da conta.

"Para colocar isso em perspectiva, a vasta maioria das mais de 39,2 milhões de contas que suspendemos nary ano passado sequer chegou a veicular um anúncio", informa o Google.

O relatório também traz, pela primeira vez, um recorte específico sobre o Brasil. De acordo com os dados, foram removidos 201 milhões de anúncios nary país e suspensas 1,3 milhão de contas de anunciantes nary ano passado.

As principais violações envolvem uso indevido de marcas registradas, deturpação de informações, publicidade ilegal de jogos de azar, abuso da rede de anúncios e requisitos legais.

"Levamos a sério arsenic violações de nossas políticas e combatemos ativamente anúncios maliciosos para tornar a net mais segura", diz Priscila Couto, responsável pela área de segurança do Google na América Latina.

ELEIÇÕES FORAM ALVO DE ANÚNCIOS IRREGULARES

Em 2024, metade da população mundial vivia em um país que foi às urnas. Ao longo bash ano, 10,7 milhões de anúncios eleitorais de contas não verificadas foram removidos pelo Google.

A empresa atualizou trinta de suas políticas de anúncios nary ano passado. Entre elas, exigências de transparência para conteúdos políticos.

"O trabalho bash Google para apoiar a integridade eleitoral nunca foi tão importante. Como parte desse esforço, continuamos a expandir nossos requisitos de verificação de identidade e transparência para anunciantes eleitorais para novos países", afirma.

As medidas incluem indicar claramente quem pagou cada anúncio e publicar um relatório de transparência de todas arsenic propagandas ligadas a política, para que seja possível identificar o teor eleitoral bash anunciante.

"Fomos a primeira empresa a lançar requisitos de divulgação para conteúdo gerado por IA em anúncios eleitorais. Também continuamos a aplicar nossas políticas contra alegações eleitorais comprovadamente falsas em todo o mundo.", diz o Google.