X sofre pressão inédita no Brasil após onda de imagens sexuais do Grok

Há ainda outra dificuldade à vista para o X. Ainda que as três entidades tenham agido em conjunto, a plataforma enfrentará a complexidade de responder pelo mesmo incidente separadamente a ANPD, MPF e Senacon, que conduzem cada uma processos internos distintos, com ritmos e regras diferentes.

Se a pressão de agora ocorre em três frentes e tem a suspensão da rede social apenas como possibilidade, é bom lembrar que o site de Musk já foi tirado do ar no Brasil. Em 2024, ficou 38 dias fora do ar por ordem de Alexandre de Moraes, ministro do STF. Naquela época, porém, a plataforma não era alvo das investigações e foi punida por não apresentar representante legal e descumprir exigências do tribunal. Se com o Supremo o silêncio deu o tom da desobediência, severamente punida, no caso da ANPD, a norma foi e tem sido outra: as notificações da agência sempre são respondidas; e no prazo.

Não é bem assim, mas tá quase lá

O Idec destinou o pedido de suspensão do X ao comitê intersetorial porque este é o órgão encarregado de criar a Política Nacional de Proteção de Crianças e Adolescentes no Ambiente Digital, em gestação no governo federal. Estarrecida com o absurdo das imagens geradas pelo Grok, o instituto pediu para a nova política pública prever a restrição ao uso de IA generativa para criar imagens de crianças com teor violento ou sexual.

Para Julia Abad, especialista de telecomunicações e direitos digitais do Idec, casos de deepfake com mulheres não são novidade, mas o uso da IA do X para despir as pessoas representa um marco, justamente por recorrer de forma negativa a características vistas como positivas em serviços tecnológicos: acessibilidade e facilidade de uso.