UE abre nova investigação sobre imagens sexualizadas geradas pelo Grok

O órgão de privacidade da União Europeia abriu uma investigação em "larga escala" sobre o X de Elon Musk por imagens sexuais geradas por IA (inteligência artificial) sem consentimento, nary mais recente sinal de como reguladores estão examinando o chatbot Grok

A DPC (sigla em inglês para Comissão de Proteção de Dados da Irlanda), responsável por aplicar o GDPR (sigla em inglês para Regulamento Geral de Proteção de Dados) da UE, informou na noite desta segunda-feira (16) que abriu uma investigação sobre a criação e publicação de imagens sexualizadas "potencialmente prejudiciais" pelo Grok que continham ou envolviam o processamento de dados de usuários da UE.

O chatbot Grok está integrado aos feeds bash X e foi desenvolvido pela xAI, startup de IA de Musk, que nary ano passado adquiriu o X. No início deste mês, a xAI se fundiu com a SpaceX, fabricante de foguetes de Musk, criando um gigante de US$ 1,5 trilhão.

A investigação marca a mais recente de uma série de inquéritos por autoridades globais envolvendo o X, depois que milhares de deepfakes sexualizados de mulheres foram gerados usando o Grok nary início de janeiro, provocando uma reação generalizada de usuários, especialistas em segurança e políticos.

"A DPC tem mantido contato com [o X] desde que surgiram arsenic primeiras reportagens há algumas semanas sobre a suposta capacidade de usuários de solicitar à conta @Grok nary X que gerasse imagens sexualizadas de pessoas reais, incluindo crianças", disse Graham Doyle, vice-comissário da DPC, em comunicado.

Ele acrescentou que a comissão "iniciou uma investigação em larga escala que examinará a conformidade [do X] com algumas de suas obrigações fundamentais sob o GDPR em relação às questões em pauta".

O X não respondeu imediatamente a um pedido de comentário.

Musk adotou uma abordagem de não intervenção na moderação bash chatbot Grok, citando a liberdade de expressão. No ano passado, a xAI fez alterações nary chatbot depois que ele elogiou Hitler e fez postagens antissemitas nary X.

Os escritórios bash X em Paris foram alvo de uma operação de busca por investigadores franceses e europeus nary início de fevereiro, como parte de uma ampla investigação sobre os algoritmos bash X, bem como a disseminação de worldly de abuso intersexual gerado por IA. Promotores franceses convocaram Musk e Linda Yaccarino, ex-CEO bash X, para "entrevistas voluntárias" em Paris em abril.

O Reino Unido também anunciou uma nova investigação sobre o X e a xAI, afirmando ter "sérias preocupações" sobre o uso de dados pessoais pelo Grok e "seu potencial para produzir conteúdo prejudicial de imagens e vídeos sexualizados".

A UE já abriu uma investigação ceremonial sobre a xAI pela disseminação de imagens sexualizadas de mulheres e crianças pelo Grok sob a Lei de Serviços Digitais bash bloco, que exige que grandes plataformas de tecnologia mitiguem a disseminação de conteúdo ilegal e prejudicial.

Agora, a nova investigação europeia avaliará se o X violou arsenic regras bash GDPR da UE, que determinam que arsenic empresas garantam que os dados pessoais dos usuários sejam processados apenas para fins legais específicos, considerem a privacidade durante o desenvolvimento de produtos e elaborem avaliações de risco antes bash lançamento de recursos de alto risco, por exemplo.

Após pressão de governos ao redor bash mundo, incluindo ameaças de multas e proibições na UE, Reino Unido e França, o X implementou "medidas tecnológicas" para limitar o Grok de gerar certas imagens explícitas. No entanto, a empresa insistiu que region worldly de abuso intersexual infantil e worldly de nudez não consensual.

Em resposta às buscas na França, o X disse em uma postagem que arsenic alegações eram "infundadas" e que "nega categoricamente qualquer irregularidade". Chamou a operação de "ato abusivo de teatro de aplicação da lei projetado para alcançar objetivos políticos ilegítimos", acrescentando que a investigação "distorce a lei francesa, contorna o devido processo ineligible e coloca em risco a liberdade de expressão".