A Falta de Transparência em Prisões com Reconhecimento Facial de IA Levanta Preocupações

Uma investigação publicada hoje pelo The Washington Post revela que centenas de americanos foram presos devido à tecnologia de reconhecimento facial, sem nunca terem sido informados de seu uso.

A investigação descobriu mais de 1.000 casos criminais em 15 estados onde a polícia falhou em divulgar sua dependência da tecnologia, muitas vezes mascarando seu papel ao atribuir a identificação do suspeito a “meios investigativos” ou testemunhas.

Essa falta de transparência gera preocupações sobre a justiça, principalmente porque o software de reconhecimento facial mostrou ser propenso a erros, especialmente na identificação de pessoas negras.

Por exemplo, o caso de Robert Williams, um homem negro, que chegou a um acordo com a cidade de Detroit após sua prisão injusta em 2020 devido a falhas no reconhecimento facial.

O Post relata que testes federais indicam que os principais softwares de reconhecimento facial têm maior probabilidade de identificar erroneamente certos grupos, incluindo pessoas de cor, mulheres e indivíduos mais velhos.

A razão para isso é que as características faciais desses grupos estão sub-representadas nos dados usados para treinar os algoritmos. Essa informação vem de Patrick Grother, que lidera os testes biométricos no Instituto Nacional de Padrões e Tecnologia em Washington, conforme relatado pelo The Post.

O Post relatou que em Evansville, Indiana, e Pflugerville, Texas, suspeitos foram identificados usando tecnologia de reconhecimento facial, mas nunca foram informados sobre seu papel em suas prisões. A polícia citou características físicas ou bancos de dados investigativos em vez disso, ocultando o envolvimento do software.

Esse padrão era comum em muitos departamentos, com apenas 30 de 100 fornecendo registros relevantes ao Post, refletindo uma relutância mais ampla em divulgar o uso de reconhecimento facial.

O Post explica que o software de reconhecimento facial, como o Clearview AI, funciona comparando imagens de cenas de crimes a vastos bancos de dados de fotos, incluindo fotos de identificação criminal e imagens de mídias sociais.

Críticos argumentam que essa prática coloca pessoas inocentes em risco de serem falsamente implicadas em crimes simplesmente porque sua imagem aparece online, conforme relatado pelo Post. Grupos de direitos civis e advogados de defesa argumentam que as pessoas têm o direito de saber quando são identificadas por essa tecnologia, especialmente dada a sua susceptibilidade a erros, aponta o Post.

O Post informa que, em alguns casos judiciais recentes, os resultados do reconhecimento facial foram contestados com sucesso devido a questões sobre a confiabilidade da tecnologia. No entanto, O Post observa que os departamentos de polícia continuam a defender sua prática de não divulgação, com alguns citando o privilégio de investigação como justificativa.

Apesar da crescente preocupação, a lei federal não exige atualmente que a polícia divulgue o uso de reconhecimento facial, disse O Post. Em alguns estados, como Nova Jersey, os tribunais decidiram que os réus têm o direito de saber se o reconhecimento facial foi usado em seu caso.

No entanto, a maioria dos estados não tem tal exigência, deixando os réus no escuro sobre o papel que a IA pode ter desempenhado em suas prisões, observou o The Post.