Governo do Reino Unido Desenvolvendo Polêmica Ferramenta de IA para ‘Previsão de Assassinatos’

O governo do Reino Unido está trabalhando em um projeto controverso que usa a IA para prever quem poderia cometer um assassinato no futuro.

A existência do programa veio à luz através de pedidos de liberdade de informação obtidos pelo grupo de vigilância Statewatch.

As descobertas sugerem que dados pessoais sensíveis estão sendo usados. Estes incluem registros de saúde, informações de saúde mental, histórico de dependência e dados sobre pessoas que não foram condenadas por nenhum crime.

O Statewatch relata que o Ministério da Justiça (MoJ) está liderando esse plano, examinando os registros de autoridade existentes das pessoas para impedir que crimes graves aconteçam.

Originalmente chamado de “projeto de previsão de homicídios”, agora é chamado de “compartilhamento de dados para melhorar a avaliação de riscos”. O projeto está atualmente em fase de pesquisa, mas ativistas e defensores da privacidade manifestaram preocupações, conforme relatado pela Statewatch.

No entanto, os oficiais negam isso. The Guardian relata que um porta-voz do Ministério da Justiça afirmou: “Este projeto está sendo conduzido apenas para fins de pesquisa. Foi projetado utilizando dados existentes mantidos pelo Serviço de Prisões e Liberdade Condicional de Sua Majestade e pelas forças policiais sobre criminosos condenados para nos ajudar a entender melhor o risco de pessoas em liberdade condicional cometerem violência grave. Um relatório será publicado em devido tempo.”

De acordo com Statewatch, a polícia de Greater Manchester compartilhou dados de até meio milhão de pessoas. Isso incluiu vítimas, suspeitos e pessoas em situações vulneráveis.

Sofia Lyall, pesquisadora da Statewatch, criticou fortemente o projeto, dizendo: “A tentativa do Ministério da Justiça de construir esse sistema de previsão de assassinatos é o mais recente exemplo assustador e distópico da intenção do governo de desenvolver os chamados sistemas de ‘previsão’ de crimes.”

Ela alertou que o sistema aprofundaria a discriminação racial e de classe: “Este último modelo, que utiliza dados de nossa polícia institucionalmente racista e do Home Office, reforçará e ampliará a discriminação estrutural que sustenta o sistema jurídico criminal.”

“O uso de dados tão sensíveis sobre saúde mental, vício e deficiência é altamente invasivo e alarmante”, acrescentou ela.

O governo argumenta que ferramentas como essa poderiam melhorar a forma como os serviços de liberdade condicional avaliam riscos e previnem crimes violentos. Mas os críticos dizem que o sistema poderia levar a que pessoas sejam injustamente rotuladas como potenciais assassinas devido a dados defeituosos e tendenciosos.

O governo argumenta que essas ferramentas melhorarão a capacidade dos serviços de liberdade condicional de avaliar riscos e impedir que crimes violentos ocorram. No entanto, os críticos alertam que o sistema corre o risco de rotular pessoas como potenciais assassinas através de dados ruins e tendenciosos.

Embora ainda em desenvolvimento, Statewatch relata que documentos mencionam a “futura operacionalização” do sistema, levantando preocupações de que ele possa ser usado em breve em decisões policiais do mundo real.