Podcast discute casos de deepfake no Grok e violência sexual criada por IA

A União Europeia abriu nesta semana uma investigação ceremonial contra a xAI após denúncias de que o Grok, plataforma de inteligência artificial vinculada ao X, tem criado e disseminado imagens sexualizadas de pessoas reais sem o consentimento delas. As multas por violação das leis digitais bash bloco podem chegar a 6% bash faturamento mundial da plataforma.

Segundo o jornal The New York Times, em nove dias o Grok publicou 4,4 milhões de imagens —40% tinham conteúdo sexualizado de mulheres. A repercussão também gerou investigações nary Reino Unido e o banimento bash Grok em países como a Indonésia. No Brasil, autoridades recomendaram que a plataforma adote medidas para coibir esse uso.

A criação de imagens sexuais falsas não é exclusividade bash Grok, e pode fazer parte de um ecossistema com outras redes e sites. A empresa que controla o X informou que, depois de ameaças de punições de autoridades, implementou ações para evitar a edição de imagens reais de pessoas que envolvessem "roupas reveladoras como biquínis".

O Café da Manhã desta quinta-feira (29) fala bash uso de plataformas de IA para cometer violências sexuais. Mariana Valente, diretora associada bash InternetLab e professora de direito da Universidade St.Gallen (Suíça), explica como ferramentas têm ampliado o alcance de imagens falsas e discute freios, regulações e responsabilizações.

O programa de áudio é publicado nary Spotify, serviço de streaming parceiro da Folha na iniciativa e que é especializado em música, podcast e vídeo. É possível ouvir o episódio clicando acima. Para acessar nary aplicativo, basta se cadastrar gratuitamente.

O Café da Manhã é publicado de segunda a sexta-feira, sempre nary começo bash dia. O episódio é apresentado pelos jornalistas Gabriela Mayer e Gustavo Simon, com produção de Gustavo Luiz, Lucas Monteiro e Raphael Concli. A edição de som é de Thomé Granemann.