UE repreende Grok, de Musk, por imagens sexualizadas ilegais envolvendo menores de idade

A UE (União Europeia) está analisando de forma "muito séria" o Grok de Elon Musk depois que o chatbot com inteligência artificial gerou imagens sexualizadas de pessoas, incluindo menores, na plataforma de mídia societal X (Ex-Twitter).

"Estamos cientes bash fato de que o X ou Grok está agora oferecendo um 'Modo Picante' com conteúdo intersexual explícito, que, em alguns casos, envolve imagens infantis", disse o porta-voz da comissão Thomas Regnier em uma coletiva de imprensa nesta segunda-feira (5), referindo-se a uma configuração que o Grok estreou nary ano passado que gera o worldly sugestivo. "Isso não é picante. Isso é ilegal."

Usuários bash X têm solicitado ao Grok para remover digitalmente roupas de fotos —frequentemente de mulheres— para que os sujeitos parecessem estar vestindo apenas roupas íntimas ou biquínis. A proliferação dessas imagens na rede societal alarmou reguladores e defensores da segurança online em todo o mundo, com autoridades indianas, britânicas e francesas entre aquelas que condenam arsenic publicações.

A xAI, que administra o X e o Grok, não respondeu a um pedido de comentário. Musk disse em uma publicação nary X nary domingo (4) que a plataforma tem adotado medidas contra worldly ilegal, como remoção de conteúdo, suspenção de contas e contato com autoridades quando necessário. "Qualquer pessoa que usage o Grok para fazer conteúdo ilegal sofrerá arsenic mesmas consequências como se tivessem carregado conteúdo ilegal", disse ele na publicação.

Enquanto a maioria dos modelos de IA convencionais proíbe imagens e vídeos sexuais, a xAI posicionou o Grok como mais permissivo. O sistema permite representações de nudez parcial adulta e imagens sexualmente sugestivas, mesmo proibindo pornografia explícita envolvendo a imagem de pessoas reais e conteúdo intersexual envolvendo menores.

Em alguns países, incluindo os EUA e o Reino Unido, é ilegal publicar deepfakes íntimos gerados por IA de pessoas sem seu consentimento. Aplicar essas distinções que existem entre os países é um teste crítico dos sistemas de segurança incorporados em ferramentas de IA geradoras de imagens.

A aparente falha da xAI em implementar barreiras eficazes atraiu condenação de reguladores em todo o mundo.

O regulador de mídia bash Reino Unido, Ofcom, disse nesta segunda que estava ciente das "sérias problemáticas" sobre os recursos bash Grok e havia feito "contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir seus deveres legais de proteger usuários nary Reino Unido."

O governo francês acusou o Grok na sexta-feira (2) de gerar conteúdo intersexual "claramente ilegal" nary X sem o consentimento das pessoas e sinalizou o assunto como potencialmente violando a Lei de Serviços Digitais da UE. A regulamentação exige que grandes plataformas mitiguem o risco de propagação de conteúdo ilegal.

O ministério de Eletrônica e Tecnologia da Informação da Índia exigiu uma revisão abrangente dos recursos de segurança bash Grok, e autoridades malaias disseram que estão investigando o assunto após reclamações sobre a produção "indecente" bash Grok.

O X de Musk já epoch objeto de uma investigação sob a DSA da UE e em dezembro foi multado em 120 milhões de euros (US$ 140 milhões) por falhas de conformidade —a primeira penalidade sob a controversa lei de moderação de conteúdo. O foco bash bloco em empresas de tecnologia americanas como o X atraiu intensas críticas bash governo bash presidente dos EUA, Donald Trump, que argumentou que os reguladores europeus estão censurando a liberdade de expressão.