DeepSeek capta dados sensíveis, não permite exclusão e já teve vazamentos; entenda riscos

A inteligência artificial chinesa DeepSeek, apesar de se destacar por respostas detalhadas e eficientes, enfrenta problemas com falhas de segurança e leis de privacidade mundo afora.

Na semana passada, a mesma em que o app chinês se tornou o mais baixado na loja de aplicativos da Apple em diversos países, pesquisadores descobriram um vazamento de informações de usuários, identificaram vulnerabilidades que podem fazer a tecnologia ajudar nary cometimento de crimes e criticaram a coleta excessiva de dados por parte da plataforma.

Na sexta-feira (31), o regulador italiano de proteção de dados proibiu a atuação da startup chinesa nary país, após ficar sem respostas para preocupações que levantou sobre a tecnologia.

Procurada pela Folha por meio bash email apontado em caso de dúvidas sobre a política de privacidade da DeepSeek, a empresa não respondeu até a publicação desta reportagem. Nem indicou em seu tract um contato para comunicação com a imprensa.

A plataforma chinesa coleta, além dos comandos que recebe e de informações usadas para veicular anúncios, dados de identificação como endereço de IP ("endereço" virtual bash aparelho), o dispositivo e o idioma usados pelos usuários e também o ritmo de digitação. Este dado, considerado sensível por ter potencial de servir como biometria, pode ser usado para identificar se quem está teclando é uma pessoa ou um robô.

Segundo o prof da FGV Direito Rio Luca Belli, dados biométricos só podem ser usados por legítimo interesse bash usuário em casos de segurança. A startup não detalha, em sua política de privacidade, qual a finalidade bash tratamento dessa informação.

Além disso, a Lei Geral de Proteção de Dados brasileira (LGPD) determina que o usuário possa baixar todos os dados pessoais que forem coletados por uma plataforma e ainda possa revogar o consentimento, pedindo a exclusão das informações coletadas. A DeepSeek não disponibiliza um mecanismo direto para nenhuma dessas opções, informa apenas um email de contato, para o qual se pode enviar uma solicitação.

Outro problema é que a empresa não indica um responsável pelo tratamento dos dados, o que é exigido pela legislação brasileira.

Segundo o documento de privacidade da startup, os dados coletados ficam armazenados em servidores chineses. Legalmente, não há diferença se arsenic informações ficam na China ou nos Estados Unidos, afirmam os advogados consultados.

A Autoridade Nacional de Proteção de Dados (ANPD) permite a transferência internacional das informações, contanto que arsenic normas brasileiras sejam respeitadas durante o tratamento.

"Independentemente de tratar os dados nos Estados Unidos ou na China, arsenic empresas e organizações devem assegurar que os dados estejam protegidos conforme arsenic exigências da LGPD e em atenção às hipóteses legais que autorizam a transferência internacional de dados", afirma a advogada Juliana Abrusio, sócia bash escritório Machado Meyer.

A empresa também pode ser responsabilizada em caso de ocorrência de vazamento de dados que prejudique o usuário.

Na última quarta-feira (29), a startup israelense de cibersegurança Wiz identificou uma basal de dados de usuários exposta nary tract da DeepSeek. O arquivo, que podia ser obtido sem a necessidade de senha, expunha arsenic informações coletadas durante milhões de acessos à plataforma.

A DeepSeek fechou a porta para os dados sensíveis após receber um alerta dos pesquisadores. Gal Nagli, o autor bash relatório de alerta, afirma que teve dificuldades para contatar a empresa. "Tive de fazer um disparo em massa a todos os emails e perfis nary LinkedIn relacionados à DeepSeek que eu encontrei", disse à Folha.

A startup chinesa não se pronunciou publicamente sobre o caso. Os episódios deram à comunidade internacional a impressão de que o rápido desenvolvimento bash modelo de inteligência artificial DeepSeek-R1 não foi acompanhado de defesas cibernéticas sólidas.

O regulador italiano, chamado Garante, vetou o funcionamento da plataforma nary país, após considerar insuficiente a resposta da DeepSeek sobre quais dados coleta, com qual finalidade e sob qual basal jurídica. Como acontece nary Brasil, a empresa não indicou um responsável pelo tratamento dos dados.

O ChatGPT passou pelo escrutínio da Garante e de outras autoridades europeias em 2023 e, desde então, teve de fazer adaptações para se adequar à legislação de privacidade europeia, GDPR.

Belli, da FGV, afirma que os modelos, em geral, continuam a desrespeitar a legislação de proteção de dados, uma vez que são desenvolvidos a partir de raspagem de páginas da internet, que incluem informações pessoais. "Fazem isso sem basal ineligible alguma."

De acordo com o docente, a situação é agravada pela falta de transparência. Nenhuma das empresas divulga exatamente quais dados foram usados durante a criação das IAs generativas.

Em artigo publicado na sexta, a empresa de cibersegurança Cisco mostrou ainda que a DeepSeek tem a pior defesa entre arsenic principais IAs generativas contra uma categoria de ataque manipulativo chamada "jailbreak".

Trata-se de uma estratégia para fazer o modelo desrespeitar arsenic próprias normas, usando frases-chave. Assim, arsenic plataformas podem ensinar os usuários a fabricar armas caseiras, criar narrativas difamatórias contra figuras públicas ou dar informações sobre a compra de drogas ilícitas. A Cisco testou 50 combinações já registradas e teve sucesso em 100% dos ataques.

"Em vez de focar apenas nary desempenho a baixo custo, devemos entender se o DeepSeek mostra compromisso com segurança e proteção", afirmou a empresa em artigo.