A Influência das Grandes Empresas de Tecnologia nos Padrões de IA da UE Levanta Preocupações

As grandes empresas de tecnologia têm uma influência considerável no desenvolvimento dos padrões de IA da UE, de acordo com um relatório do grupo de campanha Corporate Europe Observatory (CEO).

O relatório levanta preocupações sobre a inclusividade e a equidade do processo de definição de padrões, que sustenta o recém-aprovado AI Act da UE.

A Lei da IA, que se tornou lei em agosto de 2024, adota uma abordagem baseada em risco, categorizando os sistemas de IA por níveis de risco. Embora os sistemas de alto risco, como aqueles em saúde e aplicações judiciais, enfrentem requisitos mais rigorosos, diretrizes específicas permanecem indefinidas, conforme observado pelo CEO.

Mais da metade (55%) dos 143 membros do Comitê Técnico Conjunto em IA (JTC21), estabelecido pelos órgãos de padronização europeus CEN e CENELEC, representam interesses corporativos ou de consultoria.

O relatório critica a maioria das organizações que estabelecem padrões, como a CEN e CENELEC, por serem privadas e não terem responsabilidade democrática. Esses órgãos muitas vezes cobram taxas altas e operam com transparência limitada, dificultando a participação da sociedade civil.

Enquanto isso, a sociedade civil enfrenta barreiras logísticas e financeiras para participação. Apenas 23 representantes (16%) na amostra do Observatório Corporativo Europeu eram da academia, e apenas 13 (9%) representavam a sociedade civil.

Enquanto as organizações do Anexo III da UE advogam pelos interesses da sociedade, elas carecem de direitos de voto e recursos em comparação com os participantes corporativos. A Oracle, uma grande corporação de tecnologia, elogiou publicamente seu envolvimento na padronização de IA, afirmando que seus esforços garantem padrões “éticos, confiáveis e acessíveis”, conforme relatado pelo CEO.

No entanto, o relatório argumenta que corporações como a Oracle, que tem vínculos com sistemas de vigilância global, priorizam regulamentos leves que se alinham com seus interesses, em vez de abordar direitos fundamentais. O envolvimento similar de empresas como Microsoft, Amazon e Google desperta temores de salvaguardas enfraquecidas dentro do AI Act.

Bram Vranken, pesquisador da CEO, expressou preocupação com essa delegação de formulação de políticas públicas.

“A decisão da Comissão Europeia de delegar a formulação de políticas públicas sobre IA a um órgão privado é profundamente problemática. Pela primeira vez, a definição de padrões está sendo usada para implementar requisitos relacionados a direitos fundamentais, justiça, confiabilidade e tendência”, disse ele, conforme relatado pela Euro News.

O CEN e o CENELEC não divulgaram os participantes no desenvolvimento de seus padrões de IA. Os pedidos do CEO por listas de participantes do comitê JTC21 foram recebidos com silêncio, e seu Código de Conduta impõe sigilo sobre as identidades e afiliações dos participantes.

A CEO descreveu essas regras como excessivamente restritivas, impedindo a discussão aberta sobre a composição do comitê.

Em resposta ao relatório, a Comissão Europeia afirmou que as normas harmonizadas passarão por uma avaliação para garantir que estejam alinhadas com os objetivos do AI Act. Os Estados-Membros e o Parlamento Europeu também mantêm o direito de contestar essas normas, relatou o Euro News.

Em conclusão, os legisladores delegaram a tarefa de operacionalizar essas normas a organizações privadas. Grupos da sociedade civil e especialistas independentes, muitas vezes subfinanciados e em menor número, estão lutando para contrabalançar a dominância corporativa.

Esse desequilíbrio corre o risco de minar as proteções contra a discriminação, violações de privacidade e outros direitos fundamentais, deixando a governança da IA na Europa amplamente moldada pelos interesses da indústria.