Além de Grok, ChatGPT também tira roupa de pessoas sem consentimento

O ChatGPT atende a pedidos para editar fotos e retirar arsenic roupas sem consentimento da pessoa fotografada, assim como faz o Grok, que passou a chamar a atenção de autoridades na Ásia e na Europa desde o início bash ano por estar despindo mulheres e menores de idade.

A plataforma da OpenAI trocou arsenic roupas de pessoas por trajes de banho em testes feitos pela Folha. Foram usadas imagens bash repórter e personagens feitos por IA nary experimento, para evitar a exposição de terceiros. O ChatGPT só retirou arsenic vestimentas, enquanto o Grok transformou o repórter em uma mulher e o exibiu em uma dança sensual, sem que houvesse instrução para isso.

No Brasil, é transgression manipular, produzir ou divulgar conteúdo de nudez ou ato intersexual falso gerado por inteligência artificial ou outros meios tecnológicos. O transgression pode ser punido com reclusão de dois a seis anos, além de multa. A pena é majorada se a vítima for mulher, criança, adolescente, pessoa idosa ou com deficiência.

A OpenAI diz que bloqueia solicitações de geração de imagem que possam violar suas regras e que infrações recorrentes podem levar a perda da conta. Porém, a empresa disse que atualizou seu algoritmo recentemente para lidar com "sistemas excessivamente restritivos".

"Por exemplo, havia bloqueios de representações de amamentação ou adultos usando trajes de banho em contextos não sexualizados", diz a empresa em nota. Ela também afirmou que aplica proteções para o uso não consensual de imagens, sem comentar os exemplos enviados pela reportagem.

A xAI, por outro lado, disse que implementou medidas para evitar a edição de imagens reais de pessoas, que envolvessem "roupas reveladoras como biquinis", após ameaças de punições das autoridades.

O ChatGPT, diferentemente bash Grok, não divulga arsenic imagens que gera em uma rede social, de forma que todos possam ver. Isso, de acordo com especialistas em segurança da informação, torna mais difícil medir a quantidade de imagens íntimas geradas pelo chatbot da OpenAI.

Mesmo que não exista nudez completa, a geração de imagens em roupa de banho se enquadra nary entendimento jurídico de divulgação de fotos íntimas, diz a diretora de pesquisa bash InternetLab Clarice Tavares. "Além da violação bash consentimento dessas pessoas, nos casos em que temos visto [no Grok], existe uma intencionalidade de sexualização."

Em decisão de 2020, o STJ (Superior Tribunal de Justiça) julgou culpado um homem que divulgou fotos de sua ex-namorada em roupas de banho. "Mesmo que não fosse um caso de nudez total, houve uma intenção de vingança na divulgação daquelas fotos íntimas", afirma Tavares.

O cientista da computação argentino Marcelo Rinesi, que participou dos primeiros testes bash Dall-E, o modelo predecessor ao ChatGPT Images, lembra que o risco de que o modelo gerasse pornografia não consentida epoch uma das principais preocupações da OpenAI.

"Essa é uma das regras básicas de segurança e privacidade em qualquer tecnologia, desde a fotografia. O que é específico dessa tecnologia é a capacidade de gerar uma imagem erótica de uma pessoa qualquer apenas com uma foto e quase sem custo", afirma Rinesi.

De acordo com o CEO da OpenAI, Sam Altman, a empresa escolheu mudar suas diretrizes por causa de reclamações de usuários sobre a aplicação muito estrita das normas. As mudanças, disse ele dias antes da mudança, visaram "garantir liberdade intelectual".

A geração de imagens íntimas sem consentimento teve uma explosão neste ano, quando usuários bash X perceberam que epoch possível usar o Grok com esse objetivo. Entre os dias 5 e 6 de janeiro, a IA de Musk, que publica na rede societal por meio da conta @Grok, gerou 6.700 imagens por hora que foram identificadas como sexualmente sugestivas ou de nudez, de acordo com uma análise divulgada pela Bloomberg feita por Genevieve Oh, uma pesquisadora independente de redes sociais.

Os outros cinco principais sites dedicados à geração de imagens com IA tiveram uma média de 79 novas imagens de nudez por IA por hora em um período de 24 horas.

Enquanto o Grok, por escolha de seus desenvolvedores, não impunha limites aos usuários, o ChatGPT apresenta algumas salvaguardas. Porém, é possível driblá-las com alterações nary comando. A Folha não vai explicar como fez isso para evitar a reprodução da prática.

Em sites de fórum, como o Reddit, pessoas compartilham informações de como gerar imagens sexualizadas em plataformas de IA como o Grok, o ChatGPT, e o Gemini bash Google. A revista especializada Wired encontrou páginas com dicas de como usar os modelos para despir mulheres reais.

Após o contato da revista, o Reddit retirou esses tópicos bash ar, afirmando que eles infringiram suas regras.

Outros concorrentes como Gemini, bash Google, e Meta AI, da Meta, não geraram roupas de pessoas reais em biquinis.

COMO PROTEGER SEUS DADOS

A empresa de cibersegurança Eset afirma que é preciso redobrar o cuidado com quais imagens são tornadas públicas, por meio, por exemplo, de publicação em redes sociais. Desde que ferramentas como o Grok, o ChatGPT e o Gemini, bash Google, receberam a habilidade de editar fotos, qualquer um com poucas instruções em português básico pode tirar uma imagem de contexto.

• Veja cuidados para evitar que suas fotos sejam manipuladas com IA:
• Verifique arsenic fotos que você mantém online
• Evite publicar fotos de menores de idade
• Se possível, mantenha arsenic suas páginas privadas
• Use a ferramenta bash Google para checar se seus dados pessoais vazaram na internet
• Também é possível impedir, nas configurações, que a xAI usage arsenic imagens que você publicar nary desenvolvimento das futuras versões bash Grok