Idec pede suspensão do Grok no Brasil após IA gerar imagens pornográficas

O funcionamento contínuo de sistemas de inteligência artificial que causam danos graves e previsíveis mostra a urgência de uma atuação firme do poder público. A proteção de dados pessoais, especialmente de crianças e adolescentes, não pode ser tratada como um detalhe em nome da inovação Idec, em nota

A ferramenta permite a geração de imagens sexualizadas que preservam características reais das pessoas retratadas. Segundo o instituto, isso pode levar à exposição de mulheres, crianças e adolescentes sem autorização. No caso de menores de idade, o Idec ressalta que a prática é ainda mais grave, já que a legislação brasileira impõe regras mais rígidas para o uso de dados desse público.

O Idec também critica a falta de transparência da empresa responsável. O instituto aponta que a política de privacidade da ferramenta não está disponível em português, o que dificulta a compreensão dos usuários brasileiros sobre o uso de seus dados e os direitos garantidos por lei.

Ação acontece em meio a uma série de investigações sobre a IA do empresário Elon Musk. O Idec ressalta que o caso da Grok já gerou reações internacionais, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia, o que "reforça o caráter sistêmico e global do problema".

O UOL procurou a ANPD para comentar sobre o assunto, mas não recebeu resposta até o momento. Vinculada ao Ministério da Justiça, a agência é responsável por fiscalizar e garantir o cumprimento da LGPD, protegendo os dados pessoais e aplicando sanções quando há infrações.

Foi solicitado o posicionamento da xAI, responsável pelo Grok, mas até o momento não houve retorno. O espaço segue aberto para manifestações.