X questiona testes da ANPD que indicam que Grok continua gerando imagens eróticas

Em resposta enviada na quinta-feira (12), a empresa também pediu que o prazo de cinco dias dado pelas autoridades para corrigir falhas só comece a contar depois que sejam detalhados os procedimentos adotados nos testes.

A cobrança foi feita em decisão conjunta da ANPD, do Ministério Público Federal (MPF) e da Secretaria Nacional do Consumidor (Senacon).

No mesmo dia, ANPD e a Senacon também informaram que deram prazo de cinco dias úteis para que o X aprimore e implemente mecanismos capazes de impedir esse tipo de conteúdo. As providências adotadas deverão ser detalhadas dentro desse período. O ofício, porém, não informou quando a contagem do prazo teve início.

Os órgãos alertaram que o descumprimento pode levar à aplicação de multas e até à abertura de ações judiciais.

Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas não trouxe informações essenciais, como qual versão do Grok teria sido usada, quais comandos (prompts) foram inseridos e quais resultados foram obtidos.

A empresa também contestou a menção ao site grokimagine.ai, citado nos relatórios iniciais. Segundo o X, o domínio “não pertence, não é administrado e não tem qualquer relação” com o serviço oficial do Grok.

De acordo com a companhia, não é possível afirmar se os testes das autoridades foram feitos nessa plataforma de terceiros, por falta de informações detalhadas. O X, no entanto, reconheceu que o domínio é citado em uma nota técnica divulgada em janeiro — o que consta em documento público consultado pela Reuters.

O X pediu a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. Segundo a empresa, o Grok opera em Grok.com e dentro da própria rede social X.

A ANPD e o MPF não responderam de imediato a pedidos de comentário.

A Reuters verificou que o domínio grokimagine.ai direciona para o endereço grokimaginex.ai. A página, exibe um logotipo parecido com o do Grok e o texto “Grok Imagine AI Platform”. 

Ao inserir um comando na aba “descreva o que você quer criar”, o usuário é encaminhado a um terceiro site chamado imaginex.video, que não tem referências ao Grok. 

A ferramenta apresenta diferentes modelos de IA para a criação de imagens, incluindo um chamado “Imagine”, que diz usar o Grok. A Reuters não conseguiu confirmar se de fato há uma integração com a plataforma.