O Grok passou dos limites? Entenda quem responde quando a IA gera conteúdo ilegal

No índice abaixo, veja os tópicos que serão abordados nesta matéria do TechTudo.

As denúncias contra o Grok indicam que usuários estariam solicitando à IA a criação de imagens sexualizadas a partir de fotos reais ou descrições de pessoas existentes — prática que configura deepfake. Segundo autoridades europeias, parte do conteúdo analisado foi classificada como “ilegal e chocante”, principalmente quando envolve violência sexual ou representação de menores.

Embora a ferramenta seja apenas um sistema de IA integrado à plataforma X, o caso levanta uma discussão maior: o uso de inteligência artificial não exime ninguém da responsabilização sobre o conteúdo gerado. Para a advogada Camila Giacomazzi Camargo, especialista em proteção de dados e Direito Digital da Andersen Ballão Advocacia, o ponto central não está na tecnologia em si.

Segundo a especialista, o entendimento recente do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet altera o cenário da responsabilização das plataformas, ao estabelecer uma presunção de responsabilidade em casos de geração ou impulsionamento de conteúdo ilícito.

Em casos envolvendo deepfakes sexualizados, a responsabilização pode atingir tanto quem solicita ou compartilha o conteúdo quanto a plataforma que permite sua circulação sem mecanismos eficazes de controle.

Do lado do usuário, a regra é clara: pedir, criar ou compartilhar conteúdo ilegal continua sendo crime, mesmo quando o material é gerado por IA. Isso vale, por exemplo, para imagens de nudez sem consentimento e para qualquer representação sexualizada de crianças ou adolescentes.

A advogada lembra que, no caso de produtos ou serviços digitais destinados a crianças e adolescentes — ou que possam ser acessados por eles —, a legislação impõe deveres claros de prevenção e monitoramento, previstos no chamado ECA Digital, justamente para evitar o acesso e a divulgação de conteúdos inapropriados para menores de idade.

Em relação às plataformas, o dever jurídico não se limita à remoção do conteúdo após denúncia. Segundo Giacomazzi Camargo, há um dever jurídico de prevenção, e apenas reagir depois da notificação pode ser insuficiente, especialmente em situações que envolvem crimes como abuso sexual infantil ou a divulgação de imagens de nudez.

Mesmo quando o conteúdo é retirado do ar após ganhar repercussão, isso não necessariamente afasta consequências legais. Para a especialista, a remoção ajuda a mitigar o dano, mas, por si só, não é suficiente para afastar a responsabilidade.

Embora o Brasil ainda não tenha uma lei específica para regular o uso da inteligência artificial, isso não significa que práticas abusivas fiquem sem punição. Segundo especialistas, o ordenamento jurídico já prevê responsabilização em diversos cenários, principalmente quando há violação de direitos fundamentais. No caso de imagens falsas geradas por IA, a legislação brasileira trata o conteúdo da mesma forma que imagens reais, não fazendo distinção jurídica apenas por se tratar de deepfake.

Quando o tema envolve crianças e adolescentes, a interpretação é ainda mais rigorosa. De acordo com a advogada, conteúdo sexualizado envolvendo menores é crime no Brasil mesmo quando gerado por IA, já que o Estatuto da Criança e do Adolescente considera criminosa qualquer representação desse tipo. Ainda assim, há lacunas normativas quando o debate envolve a inteligência artificial de forma mais ampla. Na avaliação da especialista, a legislação brasileira está parcialmente preparada, com cobertura para crimes como pornografia infantil e crimes contra a honra, mas ainda carece de uma regulação específica voltada à IA.

Atualmente, essa discussão ocorre no Congresso Nacional por meio do Projeto de Lei 2.338/2023, que propõe regras para o desenvolvimento e uso de sistemas de inteligência artificial no país. O texto, no entanto, ainda segue em tramitação.