Grok criou três milhões de imagens sexualizadas, aponta investigação

"Estima-se que a ferramenta de IA Grok tenha gerado cerca de três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores, após o lançamento no X de uma nova função de edição de imagens", disse o Centro de Combate ao Ódio Digital, um observatório que investiga os efeitos nocivos da desinformação na internet.

A ferramenta criou esse volume de imagens em um período de 11 dias, ou seja, uma média de 190 por minuto, segundo o relatório, que não especifica quantas foram criadas sem o consentimento das pessoas.

Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.

"Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual", disse Imran Ahmed, diretor executivo do Centro de Combate ao Ódio Digital.

Não houve comentários imediatos por parte do X sobre as conclusões. Ao ser contatada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automatizada: "Mentiras da mídia tradicional".

Na semana passada, o X anunciou que bloqueará a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.