Advogado leva multa de R$ 30 mil por comando oculto para tentar enganar IA

Para o juiz, a inserção dos comandos buscava interferir em eventuais ferramentas de inteligência artificial usadas como apoio no Judiciário. "Esse comportamento fraudulento atinge diretamente o próprio exercício da jurisdição, pois, ao veicular comandos clandestinos para burlar a imparcialidade e o livre convencimento fundamentado, o causídico submeteu o juízo a embaraços indevidos, violando a dignidade da justiça de maneira intolerável", escreveu Philippe Guimarães Padilha Vilar na decisão.

Sentença enquadrou a conduta como violação aos deveres de boa-fé, lealdade processual e cooperação previstos no Código de Processo Civil. "O artigo 5º do Código de Processo Civil, já mencionado, estabelece o dever geral de boa-fé que deve orientar a conduta de todos os participantes do processo. A inserção de comandos para manipular ou condicionar o resultado da prestação jurisdicional atenta diretamente contra a lealdade processual, que é pressuposto inafastável do exercício regular do direito de ação e de defesa", afirmou o magistrado.

Advogado foi condenado pessoalmente a duas multas de R$ 16,4 mil, totalizando R$ 32,8 mil. Uma punição foi por litigância de má-fé (quando o juiz considera que houve conduta desonesta pela parte contrária do processo) e a outra por ato atentatório à dignidade da Justiça (afronta à autoridade do juiz), segundo a decisão.

Juiz também mandou encaminhar cópias da decisão e da petição à Ordem dos Advogados do Brasil na Paraíba (OAB-PB) e ao Ministério Público da Paraíba. O objetivo é apurar eventual infração disciplinar e avaliar possível crime de fraude processual.

O que é "prompt injection"

Prompt injection (injeção de prompt) é uma técnica que tenta "enganar" sistemas de IA com instruções inseridas de forma deliberada em um texto. A ideia é fazer o modelo seguir comandos escondidos ou disfarçados, ignorando regras de segurança e o contexto original da tarefa.