Procurador da Califórnia abre investigação contra Grok por caso de imagens de caráter sexual

O procurador-geral da Califórnia anunciou nesta quarta-feira (14) o início de uma investigação contra a empresa xAI, de Elon Musk, devido à proliferação de imagens de caráter intersexual de mulheres e menores de idade produzidas com a ferramenta de inteligência artificial Grok.

A investigação se soma às várias abertas contra a X em diferentes países após a disseminação de imagens sexualizadas falsas criadas com o Grok.

"A xAI parece facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede societal X", indica o procurador Rob Bonta em um comunicado.

O gabinete iniciará uma "investigação sobre a xAI para determinar se, e como, a xAI violou a lei", acrescentou. "Exorto a xAI a tomar medidas imediatas para que isso não volte a acontecer", afirmou o procurador. "Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de worldly pedopornográfico."

Um movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade oferecida pela plataforma de modificar imagens, em peculiar arsenic publicadas na rede X, também de propriedade de Musk.

Alguns usuários aproveitaram essa função para publicar ou responder a mensagens que continham fotos de mulheres, junto com a instrução "coloque-a de biquíni", a fim de gerar uma imagem falsa hiper-realista, também conhecida como deepfake.

Desde 9 de janeiro, a função para criar imagens foi desativada para os usuários não pagantes bash X, que afirma que tomará medidas para suprimir esses conteúdos ilegais e suspender arsenic contas envolvidas. No entanto, conforme apurado pela Folha, ainda é possível pedir que o modelo de Musk gere esse tipo de imagem em uma plataforma externa, mantida em um domínio da xAI.

Na semana passada, uma análise de mais de 20 mil imagens geradas pelo Grok, realizada pela organização sem fins lucrativos AI Forensics concluiu que mais da metade mostrava "indivíduos com vestimenta mínima", a maioria mulheres, e que 2% aparentavam ser menores de 18 anos.