Governo do Reino Unido Falha em Divulgar Uso de IA, Infringindo Mandato de Transparência

O governo do Reino Unido enfrenta críticas por não documentar o uso de IA em um registro obrigatório, aumentando preocupações de transparência e responsabilidade em meio à crescente adoção.

O governo do Reino Unido está sob críticas por não registrar o uso de sistemas de IA em um registro público obrigatório, aumentando as preocupações sobre a transparência e supervisão de tecnologias que potencialmente afetam milhões de vidas, conforme relatado na quinta-feira pelo The Guardian.

Apesar de ter anunciado em fevereiro de 2024 que todos os departamentos de Whitehall devem documentar seu uso de IA, nenhum deles cumpriu, deixando o setor público “voando às cegas” em sua adoção da tecnologia algorítmica, conforme observado pelo The Guardian.

A IA já está profundamente incorporada na tomada de decisões do governo, influenciando áreas como pagamentos de bem-estar social, aplicação da imigração e policiamento.

No entanto, o The Guardian observa que apenas nove sistemas algorítmicos foram registrados, excluindo programas importantes usados pelo Ministério do Interior, pelo Departamento de Trabalho e Pensões (DWP) e pelas forças policiais.

Essa falta de divulgação persiste mesmo com o aumento dos contratos para serviços de IA e algorítmicos. Por exemplo, o The Guardian destaca que um órgão de aquisição da polícia recentemente anunciou um contrato de 20 milhões de libras para tecnologia de reconhecimento facial, despertando temores sobre vigilância biométrica não regulamentada.

A Secretária de Ciência e Tecnologia, Peter Kyle, reconheceu o problema, afirmando que os departamentos governamentais não levaram a transparência “a sério o suficiente”, conforme relatado pelo The Guardian.

Ela enfatizou o direito do público de entender como os algoritmos são implantados, acrescentando que a confiança só pode ser construída através da abertura.

O The Guardian observa que críticos argumentam que o sigilo representa riscos significativos. Madeleine Stone, diretora de defesa no grupo de privacidade Big Brother Watch, alertou,

“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos. Os departamentos governamentais devem ser abertos e honestos sobre como utilizam essa tecnologia”, conforme relatado pelo The Guardian.

O Instituto Ada Lovelace ecoou essas preocupações, destacando que sistemas de IA não divulgados podem minar a confiança pública e levar a resultados discriminatórios ou ineficazes, conforme relatado pelo The Guardian.

Desde a introdução do registro de IA, apenas três sistemas foram listados, incluindo uma ferramenta de monitoramento de pedestres em Cambridge e um sistema de análise de revisão do NHS. Enquanto isso, os órgãos públicos assinaram 164 contratos relacionados à IA apenas em 2024, de acordo com a empresa de dados Tussell, conforme relatado pelo The Guardian.

Contratos de alto perfil incluem a parceria de £330 milhões do NHS com a Palantir para uma plataforma de dados e a iniciativa de transformação de AI de £7 milhões do Conselho da Cidade de Derby, disse The Guardian.

O Home Office, que emprega AI na fiscalização de imigração, e outros departamentos se recusaram a comentar sobre sua ausência no registro. No entanto, o Departamento de Ciência e Tecnologia afirma que mais registros estão “prestes a serem publicados em breve”, relatou The Guardian.

A situação reacendeu debates sobre o papel da IA na governança, com defensores pedindo transparência para mitigar danos e garantir a responsabilidade pública em uma era de tecnologia avançada rapidamente.