Litigante Autônoma Utiliza Avatar de IA, Provoca Reação Negativa no Tribunal

Um homem que apareceu em uma tela de vídeo para defender seu caso em um tribunal de Nova York revelou ser um avatar gerado por IA em vez de uma pessoa real.

Conforme primeiro relatado pela AP, Jerome Dewald compareceu perante o Departamento Judicial da Primeira Divisão do Supremo Tribunal do Estado de Nova York para argumentar sua disputa trabalhista através de uma submissão de vídeo, enquanto supostamente se representava.

“A recorrente apresentou um vídeo para seu argumento”, disse a juíza Sallie Manzanet-Daniels, conforme relatado pela AP. “Ok. Vamos assistir a esse vídeo agora”, acrescentou ela.

A AP relatou que na tela apareceu uma figura bem-vestida e jovial que cumprimentou os juízes dizendo: “Que agrade ao tribunal. Venho aqui hoje como uma humilde pro se diante de um painel de cinco ilustres juízes”.

Mas a juíza rapidamente fez uma pausa. “Ok, espere. Esse é o advogado do caso?” ela perguntou. Dewald admitiu: “Eu criei isso. Não é uma pessoa real.”

De acordo com a AP, o vídeo foi imediatamente interrompido. “Seria bom saber disso quando você fez sua solicitação. Você não me disse isso, senhor”, disse Manzanet-Daniels. “Não aprecio ser enganada”, acrescentou ela.

Dewald pediu desculpas mais tarde, dizendo que não tinha a intenção de causar danos. Ele disse que, como não tem advogado e tem problemas com a oratória, usou um avatar de IA para apresentar seu caso de forma mais clara. Ele criou o avatar com uma ferramenta de uma empresa de tecnologia de San Francisco, mas não conseguiu fazê-lo parecer com ele a tempo.

“O tribunal ficou realmente chateado com isso”, disse Dewald, conforme relatado pela AP. “Eles me deram uma boa bronca”, acrescentou ele.

A AP observa que Dewald não é o primeiro a ter problemas com a IA no tribunal. Por exemplo, a AP cita o caso de dois advogados que foram multados em 2023 por usar um chatbot de IA que criou casos falsos.

A AP observa que até advogados de alto perfil, como os de Michael Cohen, enfrentaram problemas semelhantes quando citaram, sem saber, decisões criadas por IA.

Além disso, relatórios recentes mostram que as alucinações da IA—erros e informações inventadas criadas por modelos gerativos de IA—estão causando problemas jurídicos em tribunais por todo os Estados Unidos.

O especialista em tecnologia jurídica Daniel Shin observou à AP que, embora seja raro advogados usarem IA em tribunal, não é surpreendente que um não advogado como Dewald tente tal abordagem.

O caso de Dewald ainda está sob revisão pelo tribunal.