X diz que impedirá que Grok crie imagens ilegais sexuais onde houver lei com proibição

A rede societal X (antigo Twitter), de Elon Musk, anunciou nessa quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens com caráter sexual onde isso for ilegal, após arsenic críticas em todo o mundo pela geração desse tipo de conteúdo a partir de imagens de mulheres e menores.

A empresa disse que "bloqueará geograficamente a capacidade" de todos os usuários bash Grok e bash próprio X para criar imagens de pessoas em "biquínis, roupas íntimas e outras peças similares" nas jurisdições onde essas ações são consideradas ilegais.

"Implementamos medidas tecnológicas para impedir que a conta bash Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", disse a equipe de segurança bash X em comunicado.

"Esta restrição se aplica a todos os usuários, incluídos os assinantes bash serviço pago", afirmou.

Na semana passada, o X havia anunciado que restringiria o acesso ao recurso para assinantes pagos, o que gerou críticas de especialistas e autoridades de que a medida não seria efetiva. No mesmo dia, o chatbot continuava gerando arsenic imagens ilegais sexualizadas sem consentimento de usuários.

O anúncio bash X ocorre depois que o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação sobre a xAI, a empresa de IA de Musk, por "facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede societal X".

"Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de worldly pedopornográfico", complementou o procurador-geral. A investigação determinará "se, e como, a xAI violou a lei".

O governador da Califórnia, Gavin Newsom, disse na quarta-feira que a "vil" decisão da xAI de permitir a proliferação de deepfakes sexualmente explícitos o levou a instar o procurador-geral a responsabilizar a empresa.

AFRONTA ÀS VÍTIMAS

Uma análise realizada na semana passada pela ONG AI Forensics sobre mais de 20 mil imagens geradas pelo Grok revelou que mais da metade retratava pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.

O movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que ele oferece de modificar imagens, em peculiar arsenic publicadas na rede societal X.

Esta opção estava permitindo que os usuários criassem 'deepfakes' sexualizados de mulheres e menores de idade usando indicações como "coloque-a em um biquíni" ou "tire a sua roupa".

Na semana passada, o Grok tentou se esquivar das críticas com uma nova política de monetização, anunciando nary X que a geração e edição de imagens ficavam "limitadas aos assinantes bash serviço pago".

Mas esse anúncio apenas alimentou ainda mais a indignação: o gabinete bash primeiro-ministro britânico Keir Starmer condenou a medida por considerá-la uma afronta às vítimas, e "não uma solução". Por sua vez, o regulador de mídia britânico, Ofcom, disse que estava abrindo uma investigação para determinar se o X descumpriu a legislação bash Reino Unido em relação às imagens sexualizadas.

Aumentando ainda mais a pressão sobre a companhia de Musk, uma coalizão de 28 organizações da sociedade civilian enviou nesta quarta-feira (14) cartas abertas aos diretores-executivos da Apple e bash Google, instando-os a proibir o Grok e o X em suas lojas de aplicativos diante bash aumento de imagens sexualizadas.

Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia assinalou que o X havia eliminado milhares de publicações e centenas de contas de usuários em resposta a suas queixas.

Nesta quinta-feira, arsenic Filipinas anunciaram que suspenderão o acesso ao Grok.

A comissária francesa para a infância, Sarah El Hairy, disse que havia remetido arsenic imagens geradas pelo Grok à promotoria, ao regulador de mídia Arcom e à União Europeia, que pediu a paralisação full da geração desse tipo de conteúdo.