Reino Unido Aumenta Segurança em IA, Assina Parceria com Singapura para Expandir Mercado de IA Confiável

O governo do Reino Unido anunciou ontem novas medidas para apoiar o uso seguro e responsável da IA, com o objetivo de liberar £6,5 bilhões em crescimento econômico até 2035. O setor de garantia de IA do Reino Unido – que se concentra em garantir que os sistemas de IA sejam justos, transparentes e seguros – deverá expandir seis vezes na próxima década.

Esse crescimento é visto como essencial para a estratégia mais ampla do governo de incorporar a IA nos serviços públicos e impulsionar a produtividade econômica, mantendo a confiança do público nessas tecnologias.

Peter Kyle, Secretário de Estado para Ciência, Inovação e Tecnologia, enfatizou que a confiança pública é essencial para aproveitar totalmente o potencial da IA para melhorar os serviços e a produtividade. Ele destacou que essas medidas têm como objetivo posicionar o Reino Unido como líder em segurança de IA.

Para ajudar nessa expansão, o Departamento de Ciência, Inovação e Tecnologia (DSIT) e o Instituto de Segurança de IA do Reino Unido introduziram uma nova plataforma de garantia de IA, projetada para ajudar as empresas britânicas a gerenciar os riscos associados ao uso de IA.

A plataforma centralizará recursos para avaliação de viés de dados, realização de avaliações de impacto e monitoramento do desempenho da IA. Pequenas e médias empresas (PMEs) também terão acesso a uma ferramenta de autoavaliação para implementar práticas de IA responsáveis dentro de suas organizações.

O Reino Unido também está fortalecendo seus esforços internacionais em segurança de IA, assinando uma parceria com Singapura.

O Memorando de Cooperação, assinado pelo Secretário Kyle e pela Ministra do Desenvolvimento Digital de Singapura, Josephine Teo, visa promover a pesquisa conjunta e estabelecer padrões comuns para a segurança da IA.

Este acordo se baseia em discussões realizadas na Cúpula de Segurança da IA do ano passado e está alinhado com os objetivos da Rede Internacional de Institutos de Segurança da IA (AISI), uma iniciativa global para coordenar os esforços de segurança da IA.

Josephine Teo enfatizou que ambos os países estão comprometidos em avançar a IA para o benefício público enquanto garantem que ela permaneça segura.

“A assinatura deste Memorando de Cooperação com um parceiro importante, o Reino Unido, baseia-se em áreas existentes de interesse comum e as estende para novas oportunidades em IA”, disse Teo.

Hyoun Park, CEO da Amalgam Insights — uma empresa especializada em decisões de TI financeiramente responsáveis — aponta que, embora seja comercializada como uma ferramenta para construir confiança na IA, o principal objetivo da plataforma é fornecer às empresas um quadro alinhado ao governo para avaliar a IA, relata a CIO.

Park levantou preocupações sobre as capacidades atuais da plataforma. “A plataforma ainda é bastante rudimentar, com planos para um conjunto de ferramentas essenciais que ainda não foi totalmente desenvolvido”, disse ele, conforme relatado pela CIO.

“Esta avaliação se baseia em respostas humanas, ao invés de uma integração direta com a própria IA, e a escala usada pela ferramenta de avaliação é vaga, oferecendo apenas opções binárias de sim/não ou respostas que são difíceis de quantificar”, acrescentou ele.

Park também destacou que as avaliações de viés podem ser especialmente desafiadoras. “Todo AI tem um viés, e a noção de que o viés pode ser eliminado é tanto um mito quanto potencialmente perigoso”, observou ele para o CIO.

Para pequenas empresas, novas exigências de conformidade, como avaliações de risco e auditorias de dados, podem representar encargos adicionais, estendendo potencialmente os recursos limitados, diz a CIO.