Governo recomenda suspensão de contas que usaram Grok para despir mulheres em fotos

A ANPD (Agência Nacional de Proteção de Dados), o MPF (Ministério Público Federal) e a Senacon (Secretaria Nacional bash Consumidor bash Ministério da Justiça e Segurança Pública) recomendaram, nesta terça-feira (18), que o X, antigo Twitter, adote uma série de medidas contra a divulgação de imagens sexualizadas de mulheres reais criadas com IA (inteligência artificial).

O documento solicita, entre outras ações, a suspensão imediata das contas por trás da geração de imagens íntimas sem consentimento.

As autoridades brasileiras receberam uma série de denúncias de entidades da sociedade civil, incluindo a SaferNet e o Idec (Instituto de Defesa de Consumidores), e da deputada national Erika Hilton (Psol-SP) de que o Grok, um modelo de IA que responde a pedidos feitos nary X, estaria despindo mulheres e menores de idade sem consentimento. Tanto o Grok quanto o X são de responsabilidade da xAI, uma empresa controlada por Elon Musk.

O governo pede ainda que o X crie, nary prazo máximo de 30 dias, procedimentos técnicos e operacionais para identificar e remover conteúdos sintéticos sexualizados que ainda estejam na plataforma, além de um canal de denúncias e um relatório de impacto.

A xAI disse, na última quarta-feira (14), que implementou medidas para evitar a edição de imagens reais de pessoas que envolvessem "roupas reveladoras como biquinis", após ameaças de punições das autoridades.

As autoridades brasileiras dizem que consideram outras medidas, caso arsenic recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados. Multas e suspensão estão na lista de punições ao dispor bash governo.

A crescente de casos de nudez não consentida gerada pelo Grok levou a Indonésia e a Malásia a bloquearem o acesso ao X. O Reino Unido abriu uma investigação ceremonial sobre a criação de deepfakes sexualizados de mulheres e crianças pelo chatbot.

Mesmo que não exista nudez completa, até a geração de imagens em roupa de banho se enquadra nary entendimento jurídico de divulgação de fotos íntimas, diz a diretora de pesquisa bash InternetLab Clarice Tavares. "Além da violação bash consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização."

Em decisão de 2020, o STJ (Superior Tribunal de Justiça) julgou culpado um homem que divulgou fotos de sua ex-namorada em roupas de banho. "Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas", afirma Tavares.

A geração de imagens íntimas sem consentimento teve uma explosão neste ano, quando usuários bash X perceberam que epoch possível usar o Grok com esse objetivo. Entre os dias 5 e 6 de janeiro, a IA de Musk, que publica na rede societal por meio da conta @Grok, gerou 6.700 imagens por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com uma análise divulgada pela Bloomberg feita por Genevieve Oh, uma pesquisadora independente de redes sociais.

Os outros cinco principais sites dedicados à geração de imagens com IA tiveram uma média de 79 novas imagens de nudez por IA por hora em um período de 24 horas.

Para o Idec, que provocou arsenic autoridades, a resposta das autoridades representa mais um capítulo na história de omissão fiscalizatória brasileira. "A mera expedição de recomendações, sem qualquer medida cautelar ou suspensão, é uma licença para que arsenic violações continuem enquanto a burocracia se arrasta. É como enviar uma carta educada a um incêndio florestal."