8 horas atrás 4

SKYNETchat: IA 'sem censura' viraliza, mas levanta alertas; veja os riscos

Uma nova plataforma de inteligência artificial desenvolvida por um brasileiro de 19 anos está gerando intenso debate nas redes sociais e entre especialistas em tecnologia. O SKYNETchat, que promete ser uma IA "sem censura" capaz de gerar imagens ultrarrealistas sem restrições e responder a qualquer tipo de pergunta, viralizou rapidamente e já conta com mais de 1 milhão de pessoas em lista de espera. No entanto, análises de segurança digital revelam sinais de alerta importantes que consumidores devem conhecer antes de usar a plataforma. Entenda a seguir e veja os principais perigos de acordo com Andre Gusman, engenheiro, especialista em IA e CEO do grupo Raiz Educação.

O projeto se apresenta como uma alternativa "sem limites" aos assistentes de IA tradicionais, como ChatGPT ou Gemini. Segundo informações divulgadas pelo desenvolvedor, o SKYNETchat foi criado do zero com o objetivo de oferecer "acesso irrestrito ao conhecimento geral", sem as restrições de conteúdo presentes em outras plataformas.

Andre Gusman, especialista em IA, explica que se trata de uma plataforma de chat de IA que, segundo documentação e trechos publicados pela própria equipe, deriva de um fork (“ramificação”, i.e., quando alguém pega o código-fonte de um projeto existente e cria uma versão separada) do LLaMA-1, originalmente da Meta, e foi intencionalmente lançada sem as camadas de segurança e filtros que hoje são padrões na indústria. "Essa escolha técnica transforma uma tecnologia potente em um risco prático para privacidade, segurança e conformidade legal", complementa.

A ferramenta, portanto, promete diversos recursos avançados:

Respostas "sem censura" a qualquer pergunta
Geração de imagens ultrarrealistas sem filtros de conteúdo
Interação por texto ou voz com interface moderna e intuitiva
Ferramentas simplificadas para criação de sites e aplicativos
Espaço social integrado, similar a threads do Twitter, onde usuários podem compartilhar publicamente suas interações com a IA

O apelo principal do projeto está na promessa de "democratização do conhecimento" sem as limitações impostas por grandes empresas de tecnologia. Em poucos dias, após a primeira demonstração pública, buscas pelo nome da IA começaram a aparecer no Google Trends e ganhou repercussão em grupos de tecnologia e redes sociais.

Um exemplo prático de diferença entre IAs convencionais e a proposta dessa nova inteligência artificial é esse post, realizado por um homem que se diz um dos programadores do SKYNETchatno Instagram. Enquanto o ChatGPT tem filtros que desaconselham práticas contra lei ou perigosas ao usuário, o chatbot brasileiro ensina um caminho "possível" de como pegar dinheiro com vários agiotas.

Do ponto de vista técnico simplificado, Gusman explica que um LLM (large language model) “tradicional” aprende a linguagem a partir de grandes volumes de texto, mas as versões responsáveis passam por duas etapas extras antes do uso público: 1) limpeza e filtragem do corpus (para evitar que o modelo aprenda instruções criminosas, dados pessoais sensíveis ou discurso de ódio) e 2) alinhamento com feedback humano, que ensina o modelo a recusar pedidos perigosos e a priorizar respostas seguras. A SKYNETchat, conforme os próprios materiais, teria pulado essas etapas. E por isso, respostas como a apresentada acima são comuns na IA.

Os riscos reais de IAs "sem censura"

O debate sobre censura vs liberdade em inteligências artificiais não é novo, mas ganhou contornos mais complexos com o avanço da tecnologia. No Brasil, a discussão ganha relevância com a implementação da Lei Geral de Proteção de Dados (LGPD) e o projeto de regulamentação da inteligência artificial em tramitação no Congresso Nacional.

Com isso, enquanto defensores do SKYNETchat argumentam pela "democratização do conhecimento sem barreiras", o especialista em IA, Andre Gusman, listou quais os riscos concretos do uso de um chatbot que vai de encontro a transparência, segurança e responsabilização.

Geração de instruções perigosas: sem filtros, o sistema pode fornecer passo a passo para atividades ilegais ou perigosas.
Vazamento de dados sensíveis: modelos treinados com dados não filtrados podem memorizar e reproduzir trechos de textos pessoais ou confidenciais.
Automação de ações maléficas: se a plataforma integra execução de código ou acesso externo sem isolamento adequado, respostas textuais podem transformar-se em ações reais (downloads, execução, conexões de rede).
Propagação e contaminação: atualizações de modelo sem controles criptográficos ou verificação podem espalhar alterações maliciosas entre instâncias.
Risco legal e de licenciamento: usar ou redistribuir um fork que “stripped” licenças pode constituir violação de direitos e expor operadores e usuários a responsabilização civil e criminal.
Impacto reputacional e educacional: para escolas e instituições, a adoção de uma plataforma desse tipo pode violar normas de privacidade (LGPD) e comprometer a segurança de alunos e funcionários.

Deepfakes e crimes digitais

A empresa por trás do SKYNETchat não possui cadastro em plataformas de avaliação como Reclame Aqui ou Trustpilot, o que impede que potenciais usuários consultem experiências de outros consumidores. Além disso, a promessa de gerar "imagens ultrarrealistas sem restrições" levanta preocupações sérias sobre a criação de deepfakes. Essas imagens manipuladas podem ser usadas para:

Aplicar golpes financeiros sofisticados
Criar pornografia não consensual (revenge porn)
Difamar pessoas públicas e comuns
Forjar evidências falsas
Realizar fraudes de identidade

Vale ressaltar também que o domínio está hospedado na Islândia, não no Brasil ou Estados Unidos. Embora essa prática não seja necessariamente problemática, ela pode dificultar suporte técnico, acionar a justiça em caso de vazamento de dados, solicitar exclusão de informações pessoais (direito garantido pela LGPD) e responsabilizar a plataforma por possíveis danos causados.

Como se proteger ao usar novas plataformas de IA

Diante do surgimento constante de novos serviços de inteligência artificial, consumidores devem adotar práticas de segurança digital:

Antes de usar qualquer plataforma nova:

Verifique a idade do domínio: Prefira serviços com pelo menos 1 ano de operação
Pesquise avaliações: Consulte experiências de outros usuários em sites especializados
Leia a política de privacidade: Entenda como seus dados serão tratados
Identifique a empresa: Verifique se há informações claras sobre os responsáveis
Desconfie de promessas exageradas: "Sem limites" e "sem censura" podem indicar falta de responsabilidade

Não forneça dados pessoais sensíveis: Evite compartilhar CPF, endereço, dados financeiros
Não confie cegamente nas respostas: Sempre verifique informações em fontes confiáveis
Não use para criar conteúdo que possa prejudicar terceiros: Você pode ser responsabilizado legalmente
Não faça upload de documentos confidenciais: Não há garantias sobre como serão armazenados

Sinais de alerta da SKYNETchat:

Apesar de ainda não ter muitas informações circulando sobre esta nova IA, já é possível traçar alguns pontos de atenção importantes a serem levados em consideração para a sua segurança. Confira abaixo.