X questiona ANPD sobre atribuição ao Grok de conteúdo sexual indevido

Protocolada na quinta-feira, ​a petição é uma resposta do X a um despacho conjunto da ANPD, Ministério Público Federal (MPF) e Secretaria Nacional do Consumidor (Senacon) que exige medidas contra a geração ‌de imagens de crianças e adolescentes em ‌contextos sexualizados no ​Grok, assim como imagens de adultos sem o consentimento destes.  

Os órgãos disseram que testes realizados por equipes técnicas indicaram a persistência de falhas na ferramenta e que o X não havia fornecido ‌evidências concretas para aferir a efetividade de medidas de mitigação. As autoridades advertiram a empresa de que o descumprimento poderia levar a ações mais severas, como multas e abertura de ações judiciais. 

Na resposta enviada à ANPD, o X afirmou que a nota técnica que embasou as medidas preventivas “não forneceu informações mínimas e essenciais para se verificar qual teria sido a modalidade do Grok utilizada para fins de se chegar a esses resultados, os prompts específicos e nem mesmo os resultados gerados com as características indicadas”.

O X ‌também disse que o domínio grokimagine.ai “não pertence, não é administrado e não guarda qualquer relação" com o serviço Grok oferecido pelo X.

A empresa diz não ser possível afirmar que os ​testes das autoridades teriam usado tal plataforma devido à falta de informações fornecidas pelos órgãos, mas destacou que o mesmo domínio é mencionado ‌em uma nota técnica sobre testes iniciais divulgada em janeiro, o que de fato consta de documento público consultado pela Reuters.  

O X pediu a suspensão imediata das medidas preventivas caso ‌seja confirmado que as imagens dos testes ‌foram geradas no domínio que não pertence à empresa. Segundo a companhia, o Grok opera nos domínios Grok.com e dentro dos endereços ⁠da rede social X.