IA Auxilia Tribunal Holandês na Elaboração de Sentenças Criminais

O Tribunal Distrital de Rotterdam realizou recentemente um experimento com assistência de IA para a elaboração da motivação da sentença de um caso criminal.

A IA não estava envolvida no processo de tomada de decisão, mas foi apenas utilizada como uma ferramenta para ajudar a preparar a seção que explica o raciocínio do tribunal por trás da punição, conforme explicado pelo órgão judiciário, de Rechtspraak.

O tribunal notificou todas as partes imediatamente após o julgamento sobre a implementação da IA no processo, além de divulgar uma declaração oficial sobre o experimento, conforme explicado pelo NL Times.

A IA utilizou informações gerais do caso para gerar rascunhos de documentos, mas os juízes, juntamente com o escrivão, revisaram esses rascunhos antes de completar a motivação da sentença. A IA não participou na tomada de decisões legais, nem na avaliação de fatos durante o processo.

O NL Times explica que a ferramenta de IA acelerou a velocidade de redação e melhorou a estrutura do texto de acordo com os juízes que a utilizaram.

O pessoal do tribunal que conduziu o julgamento expressou resultados favoráveis, mas manteve suas reservas sobre a implementação de sistemas públicos de IA em procedimentos judiciais, conforme observado pela de Rechtspraak.

Eles observaram que as ferramentas públicas de IA operam com capacidades de entrada restritas, o que diminui seu desempenho. Além disso, o uso de sistemas públicos de IA para compartilhar detalhes de casos cria um risco ético ou legal devido à possível divulgação de informações sensíveis.

Para superar essas preocupações, os juízes propuseram a implementação de um sistema interno seguro de IA que operaria exclusivamente dentro dos processos judiciais para resolver esses problemas.

O sistema operaria apenas com informações confidenciais para que informações de caso mais detalhadas e relevantes pudessem ser inseridas. Uma abordagem possível seria estabelecer um banco de dados seguro de todas as sentenças criminais publicamente disponíveis no site do judiciário. Esse banco de dados poderia auxiliar a IA a gerar rascunhos de sentenças mais precisos, conforme observado pela de Rechtspraak.

No entanto, a implementação da tecnologia de IA nos sistemas judiciais vem com certos riscos. De fato, as “alucinações” geradas por IA, que produzem dados incorretos ou fabricados, se tornaram um problema legal nos tribunais dos EUA. Em um exemplo recente, advogados da Walmart usaram casos falsos gerados por IA durante um processo, o que levou a possíveis sanções. Como resultado, a comunidade jurídica continua a expressar dúvidas crescentes sobre a confiabilidade do sistema de IA.