A UNECE Publica Declaração sobre Produtos Integrados com IA

A Comissão Econômica das Nações Unidas para a Europa (UNECE) anunciou hoje uma declaração abordando os desafios regulatórios apresentados pela IA e tecnologias digitais incorporadas em produtos e serviços cotidianos. Esta iniciativa visa aprimorar a coerência regulatória global diante das complexidades das tecnologias emergentes.

Baseando-se nos Arranjos Regulatórios Comuns Abrangentes (CRA), a declaração incentiva a cooperação regulatória voluntária entre os governos, ao mesmo tempo que protege o comércio global e o progresso tecnológico.

A declaração destaca a prevalência de produtos que utilizam IA incorporada e tecnologias digitais, mas nota a ausência de definições e regulamentações consistentes.

Embora a CRA afirme que não abrange veículos autônomos ou armas, sua orientação permanece pertinente a esses setores.

A declaração enfatiza a importância de gerenciar riscos associados a produtos que incorporam IA incorporada ou outras tecnologias digitais. Segundo a declaração, eliminar completamente todos os riscos é irrealista; em vez disso, as regulamentações devem visar a gerenciar riscos dentro de limites aceitáveis.

Produtos de alto risco, particularmente aqueles que impactam a saúde, segurança ou privacidade, exigirão uma fiscalização rigorosa. Produtos de risco médio, que podem representar preocupações de segurança do usuário, mas não envolvem dados pessoais, precisarão de monitoramento moderado. Em contraste, produtos de baixo risco que não usam dados pessoais ou influenciam diretamente os usuários exigirão supervisão mínima.

Para sistemas de IA de alto risco, a declaração defende a inclusão de tomada de decisões humanas sempre que viável. Por exemplo, dispositivos médicos que utilizam IA para diagnósticos devem envolver revisão humana para mitigar riscos aos pacientes, enquanto maquinário industrial alimentado por IA deve permitir supervisão humana nos locais de trabalho.

Reconhecendo a natureza imprevisível das tecnologias de IA, a declaração enfatiza a necessidade de testes rigorosos, ao mesmo tempo que reconhece a persistência de riscos desconhecidos. Reguladores e distribuidores são incentivados a divulgar esses riscos residuais e garantir que permaneçam gerenciáveis.

Para prevenir danos, sistemas de IA incorporados devem abordar vieses na tomada de decisões, refletindo tanto os vieses humanos quanto os de máquina.

A declaração ainda afirma que esses sistemas devem respeitar a autonomia humana, o bem-estar mental e os valores sociais, incluindo os direitos das crianças, e funcionar efetivamente em economias em desenvolvimento sem criar barreiras comerciais.

Recursos de segurança são cruciais para a tecnologia de IA para prevenir o mau uso. As avaliações de conformidade regulatória são vitais para os produtos de IA, onde itens de baixo risco podem exigir apenas uma auto-declaração do fornecedor, enquanto produtos de alto risco devem passar por avaliações de terceiros para verificar a conformidade com as normas internacionais.

Além disso, a declaração argumenta que a vigilância de mercado deve evoluir para acompanhar a natureza dinâmica da IA. Verificações contínuas de conformidade são necessárias, especialmente à medida que os produtos recebem atualizações.

Auditorias independentes devem confirmar que os produtos mantêm os padrões iniciais e são seguros para uso. Produtos não conformes, particularmente aqueles que apresentam riscos significativos, devem ser recolhidos, com alertas internacionais emitidos para questões graves.