Governo exige que X adote medidas contra conteúdo sexual gerado com IA

As instituições apresentaram prazo de cinco dias à plataforma para cumprir a determinação, sob pena de multa e ações judiciais.

Segundo as autoridades brasileiras, após um alerta no fim de janeiro, o X afirmou "ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança".

Também afirmaram que a empresa não foi transparente em sua resposta.

O X havia anunciado em meados de janeiro uma limitação de sua ferramenta de IA nos países onde a criação deste tipo de imagem é ilegal, mas ainda não é possível saber onde a limitação está em vigor.

O Grok, da empresa xAI de Musk, permitiu que os usuários modificassem imagens reais de pessoas com instruções simples como "coloque um biquíni" ou "tire a roupa".

Segundo o Centro de Combate ao Ódio Digital (CCDH, na sigla em inglês), que investiga os efeitos nocivos da desinformação na internet, o chatbot gerou uma estimativa de três milhões de imagens sexualizadas de mulheres e menores em apenas alguns dias.