Grok, IA de Elon Musk, criou 3 milhões de imagens sexualizadas de mulheres e menores, aponta investigação

• O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores.

• Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como "vista-a com um biquíni" ou "tire a roupa dela".

• A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.

• Na semana passada, o X anunciou que bloqueará a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.

Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como "vista-a com um biquíni" ou "tire a roupa dela".

Uma enxurrada de imagens falsas hiper-realistas, conhecidas como 'deepfakes', inundou a internet, o que levou vários países a proibirem o Grok e despertou a fúria dos órgãos reguladores e das vítimas.

A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.

"Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual", disse Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital.

Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.

Não houve comentários imediatos por parte do X sobre as conclusões. Ao ser contatada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automatizada: "Mentiras da mídia tradicional".

O procurador-geral da Califórnia iniciou um inquérito sobre a xAI por material sexualmente explícito, e vários países abriram suas próprias investigações.