Homem usa advogado criado por IA em processo nos EUA e recebe reprimenda de juíza

Bastaram alguns segundos para os juízes de um tribunal de apelações de Nova York (EUA) perceberem que o homem em um vídeo, prestes a apresentar um argumento em um processo, não apenas não tinha diploma de direito, como também nem existia de verdade.

O mais recente capítulo da chegada da inteligência artificial ao mundo jurídico aconteceu em 26 de março, sob a cúpula de vitrais do Tribunal de Apelação da Primeira Divisão Judicial da Suprema Corte do Estado de Nova York, onde um painel de juízes estava prestes a ouvir Jerome Dewald, autor de um processo trabalhista.

"O apelante enviou um vídeo para sua argumentação", disse a juíza Sallie Manzanet-Daniels. "Ok. Vamos assistir agora ao vídeo." Na tela apareceu um homem sorridente, com aparência jovem, cabelo estilizado, camisa social e suéter.

"Com a devida vênia, excelências," começou o homem. "Venho hoje aqui humildemente, representando-me em causa própria, perante um painel de cinco ilustres juízes." "Ok, espere um momento," disse Manzanet-Daniels. "Esse é o advogado do caso?". "Eu que gerei isso. Essa pessoa não é real," respondeu Dewald.

Era, de fato, um avatar gerado por inteligência artificial. A juíza não ficou nada satisfeita. "Seria bom saber disso quando você fez a solicitação. Você não me informou, senhor," disse Manzanet-Daniels, antes de gritar para desligarem o vídeo. "Não gosto de ser enganada," acrescentou, antes de permitir que Dewald prosseguisse com seus argumentos.

Dewald posteriormente escreveu uma carta de desculpas ao tribunal, dizendo que não teve intenção de causar nenhum dano. Ele não tinha advogado representando-o no processo, então precisava apresentar seus argumentos legais por conta própria. E achou que o avatar conseguiria fazer a apresentação sem os seus costumeiros murmúrios, gaguejos e tropeços nas palavras.

Em entrevista à Associated Press, Dewald contou que solicitou permissão ao tribunal para exibir um vídeo gravado, e então usou um produto criado por uma empresa de tecnologia de São Francisco para criar o avatar. Inicialmente, ele tentou gerar uma réplica digital de si mesmo, mas não conseguiu fazer isso antes da audiência. "O tribunal ficou realmente irritado com isso," admitiu Dewald. "Eles me deram uma bela bronca."

Daniel Shin, professor adjunto e diretor assistente de pesquisa do Centro de Tecnologia Jurídica e Judiciária da Faculdade de Direito William & Mary, disse que não ficou surpreso ao saber que Dewald usou uma pessoa falsa para apresentar argumentos em um tribunal de apelações em Nova York. "Do meu ponto de vista, isso era inevitável," afirmou.

Ele disse que seria improvável um advogado fazer algo assim, por causa da tradição, das regras do tribunal e do risco de ser descredenciado. Mas indivíduos que se apresentam sem advogado e pedem permissão para falar ao tribunal geralmente não recebem orientações sobre os riscos de usar um vídeo sintético para apresentar seu caso.

Dewald disse que tenta acompanhar a tecnologia, e recentemente assistiu a um webinar patrocinado pela Associação Americana de Advogados (ABA) sobre o uso de IA no mundo jurídico.

Outros casos

Mesmo advogados de verdade já tiveram problemas com o uso equivocado da inteligência artificial. Em junho de 2023, dois advogados e um escritório de advocacia foram multados em US$ 5 mil cada por um juiz federal em Nova York, depois de usarem uma ferramenta de IA para fazer pesquisa jurídica, e acabarem citando casos jurídicos fictícios inventados pelo chatbot. O escritório alegou que cometeu um "erro de boa-fé" ao não entender que a IA poderia inventar informações.

Mais tarde naquele mesmo ano, mais decisões judiciais fictícias geradas por IA foram citadas em documentos legais apresentados pelos advogados de Michael Cohen, ex-advogado pessoal do ex-presidente Donald Trump. Cohen assumiu a culpa, dizendo que não sabia que a ferramenta do Google que estava usando para pesquisar questões jurídicas também era capaz de gerar chamadas "alucinações de IA".

Esses foram erros, mas a Suprema Corte do Arizona começou intencionalmente, no mês passado, a usar dois avatares gerados por IA - semelhantes ao que Dewald usou em Nova York - para resumir decisões judiciais ao público. No site do tribunal, os avatares, chamados "Daniel" e "Victoria", dizem estar ali "para compartilhar as notícias do tribunal".