'Monja Coen de IA' é desmascarada, e Justiça manda TikTok derrubar perfil

Juíza Joanna Terra acatou urgência para remoção alegando conteúdo falso e uso indevido de imagem e voz. Na decisão da magistrada do Juizado Especial Cível Central, de São Paulo, é citada ainda a violação de direitos de personalidade e o fato de o conteúdo não ter sido marcado como feito com inteligência artificial.

O perfil está utilizando e vinculando indevidamente o nome, imagens, voz e marca da autora [da ação, a Monja Coen], e divulgando conteúdo ou materiais de autoria desconhecida sem autorização. Assevera que a distorção pode induzir os usuários ao erro, especialmente pelo uso de inteligência artificial, que torna os vídeos indistinguíveis dos autênticos
Trecho da decisão da juíza Joanna Terra sobre a remoção do perfil

Entre descoberta do perfil falso até remoção foi quase seis meses. "Antes da ação, denunciamos pelo TikTok e nada foi feito. Notificamos o perfil com mensagem em inglês, português e espanhol e não respondeu. Enviamos três vezes uma notificação extrajudicial para a ByteDance [empresa controladora do TikTok], dizendo que o conteúdo viola a política deles, e nada", afirma Gisele Truzzi, especialista em direito digital e advogada da Monja Coen.

"Mal falo inglês e, de repente, estou falando espanhol". Segundo Truzzi, essa foi a reação da monja Coen após saber do canal que usava imagens e voz dela.

Além da remoção, foram solicitados detalhes do autor do perfil. Ainda está pendente, mas a ação judicial solicita informações de IP [identificador de uma conexão na internet] para saber de onde é a pessoa, além de um relatório financeiro, dado que o perfil era monetizado, além de ter link para venda de livro pelo TikTok Shop.

Questionado, sobre o caso, o TikTok diz que exige que conteúdos gerados por IA sejam rotulados. Caso não sejam, diz a empresa, o conteúdo pode ser removido, restringido ou receber rótulo aplicado pela equipe de moderação, conforme o potencial de dano.