Homem tenta enganar juíza com falso advogado criado por IA, é descoberto e leva esculacho: 'Não gosto de ser enganada'

O caso aconteceu em 26 de março, em um tribunal de apelações de Nova York. O responsável pela tentativa, Jerome Dewald, move uma ação trabalhista e usou um vídeo feito com IA para apresentar seus argumentos.

"O recorrente enviou um vídeo para sua argumentação", disse a juíza Sallie Manzanet-Daniels. "Ok. Vamos ouvir esse vídeo agora."

Na tela, apareceu um homem sorridente, de aparência jovem, com um penteado impecável, camisa social e suéter. "Que o tribunal me permita falar", começou ele. "Venho aqui humildemente para apresentar meu argumento diante de um painel de cinco juízes..."

"Fui eu que gerei isso. Essa pessoa não é real", respondeu Dewald. Foi então que o homem revelou que, na verdade, a pessoa que aparecia no vídeo era um avatar gerado por inteligência artificial. A juíza não gostou.

"Seria bom saber disso quando você fez sua solicitação. Você não me informou, senhor", disse Manzanet-Daniels antes de ordenar que desligassem o vídeo. "Não gosto de ser enganada", afirmou.

Mais tarde, Dewald escreveu uma carta de desculpas ao tribunal, dizendo que não tinha intenção de causar problemas. Como não tinha advogado para representá-lo no processo, ele justificou que precisava apresentar seus argumentos legais por conta própria e acreditou que o avatar poderia fazer isso de forma mais clara do que ele, sem tropeços e hesitações.

Em entrevista à Associated Press, Dewald disse que pediu permissão ao tribunal para exibir um vídeo pré-gravado e, em seguida, usou um produto de uma empresa de tecnologia para criar o avatar. Inicialmente, ele queria gerar uma réplica digital de si mesmo, mas não conseguiu.

"O tribunal ficou realmente irritado com isso", admitiu Dewald. "Eles me deram uma bronca daquelas."

O homem afirmou que tenta se manter atualizado sobre tecnologia e recentemente assistiu a um seminário online patrocinado pela Associação Americana de Advogados sobre o uso de IA no mundo jurídico.

O caso dele continua pendente na Justiça.

Mesmo advogados "de verdade" já tiveram problemas ao usar inteligência artificial de forma inadequada.

Em junho de 2023, dois advogados e um escritório de advocacia foram multados em US$ 5.000 (R$ 29,5 mil) por um juiz de Nova York depois de usarem uma ferramenta de IA para fazer uma pesquisa jurídica, o que resultou na citação de casos fictícios inventados pelo chatbot.

À época, o escritório envolvido alegou que cometeu um "erro de boa-fé" ao não perceber que a inteligência artificial poderia inventar informações.

No final daquele ano, mais decisões judiciais falsas criadas por IA foram citadas em documentos legais apresentados pela equipe de Michael Cohen, ex-advogado pessoal do ex-presidente Donald Trump.

Cohen assumiu a culpa, dizendo que não sabia que a ferramenta do Google que usava para pesquisa jurídica também poderia produzir chamadas "alucinações" de IA.

No mês passado a Suprema Corte do Arizona começou a usar intencionalmente dois avatares gerados por IA, semelhantes ao que Dewald utilizou em Nova York, para resumir decisões judiciais ao público.

No site do tribunal, os avatares — chamados "Daniel" e "Victoria" — dizem que estão ali "para compartilhar notícias".