Musk restringe deepfakes no Grok, mas batalha regulatória está longe do fim

O recuo de Musk, que inicialmente desdenhou do caso, destaca a dificuldade de fiscalizar ferramentas de IA que tornam a criação ​de conteúdo explícito barata e fácil. Este é ​o mais recente conflito entre ⁠a Europa e Musk, após desentendimentos sobre interferência eleitoral, moderação de conteúdo e liberdade de expressão.

Muitos órgãos reguladores ‍ainda estão se esforçando para desenvolver leis e regras que governem a IA, com ⁠dúvidas sobre o que constitui nudez, como definir consentimento e quem é o responsável -- o usuário ou a plataforma.

"É realmente uma zona cinzenta no que diz respeito à criação de imagens de nudez", disse à Reuters Ängla Pändel, advogada de proteção de ⁠dados e privacidade do escritório Mannheimer Swartling, em Estocolmo.

A Ofcom, reguladora britânica e uma ​das mais atuantes no assunto, saudou a iniciativa de Musk, mas afirmou que sua investigação sobre a xAI em relação às imagens do Grok continuará.

"Nossa investigação formal continua em andamento", disse um porta-voz. "Estamos trabalhando incansavelmente para avançar com o caso e obter respostas sobre o que deu errado e o que ‌está sendo feito para corrigir a situação."

AUTORIDADES DEFENDEM REFORÇO DA FISCALIZAÇÃO

No início deste mês, o Grok criou imagens hiper-realistas de mulheres sob efeito de ecstasy, manipuladas para parecerem estar usando biquínis minúsculos, em poses degradantes ou até mesmo cobertas de hematomas. Algumas menores de idade foram digitalmente despidas, ficando apenas de roupa de banho.

Até quarta-feira, a Reuters constatou que o chatbot ainda produzia imagens sexualizadas de forma privada e sob demanda. Aparentemente, essa prática foi controlada, pelo menos em algumas regiões, nesta quinta-feira.

A xAI de Musk afirmou estar bloqueando a geração de imagens de pessoas com roupas sumárias em "jurisdições onde isso é ilegal". A empresa não especificou quais são essas jurisdições.

Na Malásia e na Indonésia, o governo impôs proibições temporárias ao Grok, enquanto os reguladores da UE e do Reino Unido consideraram as ‌imagens ilegais. O Reino Unido, a França e a Itália iniciaram investigações, mas enfrentaram pedidos por medidas mais rigorosas.

"É necessário um reforço na aplicação da Lei de Serviços Digitais para impedir que aplicativos e plataformas sexualizem ou exponham mulheres e crianças à nudez", afirmou a eurodeputada democrata-cristã Nina Carberry, que considerou a medida mais recente um "passo positivo".

Um porta-voz da Comissão Europeia afirmou que, caso as alterações implementadas no Grok não sejam eficazes, a Comissão continuará a utilizar todas as ‍ferramentas de fiscalização da Lei de Segurança Digital da UE contra a plataforma.

ÁREA JURÍDICA CINZENTA

A Lei de Segurança Online do Reino Unido considera o compartilhamento de imagens íntimas sem consentimento, incluindo deepfakes gerados por IA, uma "infração prioritária", afirmou Alexander Brown, advogado de proteção de dados do escritório ⁠Simmons & Simmons, no Reino Unido.

"Isso significa que o X deve tomar medidas proativas e proporcionais para impedir que esse tipo de conteúdo apareça em sua plataforma e removê-lo rapidamente quando detectado", disse.

O órgão regulador britânico pode multar uma empresa em até 10% da receita nos ‌casos mais graves de descumprimento das normas ou solicitar a um tribunal que obrigue os provedores de serviços de internet a bloquear o site.

Para os indivíduos, levar plataformas aos tribunais é "um processo realmente difícil e pesado", disse Anders Bergsten, advogado da Mannheimer Swartling, citando o impacto emocional sobre as vítimas.

As deepfakes existem há anos, muito antes do surgimento dos aplicativos de IA, embora estivessem em grande parte confinados aos cantos mais obscuros da web. O poder de ‍publicação do X dá ao Grok um alcance ⁠sem precedentes.

"A facilidade de publicação permite que as deepfakes se espalhem em larga escala", disse a advogada Carrie Goldberg, dos EUA, que trabalha com vítimas de assédio cibernético.

No Reino Unido e na Suécia, as leis tornam ilegal o compartilhamento não consensual de imagens de nudez. O Reino Unido está ampliando a lei para incluir a produção dessas imagens.

Segundo a Lei de Segurança de Dados, a suspensão de um serviço é considerada o último recurso. A Lei de Inteligência Artificial da UE também não prevê nada em relação a imagens de nudez de adultos, apenas obrigações de transparência para deepfakes, afirmaram especialistas.

O primeiro-ministro britânico, Keir Starmer, saudou a iniciativa do X nesta quinta-feira, mas alertou: "Liberdade de expressão não é a liberdade de violar o consentimento. As imagens de mulheres jovens não são propriedade pública e a sua segurança não está em discussão".

"Se precisarmos fortalecer ainda mais as leis existentes, estamos preparados para fazê-lo."

(Reportagem de Supantha Mukherjee em Estocolmo e Sam Tobin em Londres)