Projeto de Lei da Califórnia Impõe Novas Regras Sobre a IA

A Assembleia Estadual da Califórnia aprovou o Ato de Inovação Segura e Segura para Modelos de Inteligência Artificial de Fronteira (SB 1047) após muitas emendas terem sido feitas no início deste mês.

Introduzido pelo senador estadual Scott Wiener, o SB 1047 visa mitigar os riscos associados à IA avançada, como armas autônomas ou ciberataques em larga escala. Além disso, conforme relatado pelo Business Insider (BI), o projeto exige que as empresas que desenvolvem modelos de IA implementem medidas de segurança, incluindo chaves de desligamento e testes de terceiros.

As principais disposições do SB 1047 incluem rígidos protocolos de segurança para os desenvolvedores de “modelos cobertos”, que são modelos de IA em larga escala que exigem uma potência computacional significativa para treinar e têm o potencial de causar danos significativos.

Esses protocolos exigem que os desenvolvedores implementem medidas de segurança abrangentes para tratar de riscos como consequências não intencionais ou uso malicioso. Além disso, os desenvolvedores devem passar por auditorias independentes anuais para garantir a conformidade e relatar quaisquer incidentes de segurança de IA ao Procurador Geral dentro de 72 horas.

O projeto de lei também impõe responsabilidades aos operadores de clusters de computação, exigindo que eles identifiquem os clientes que treinam esses modelos de alto risco e tomem medidas para mitigar perigos potenciais.

O SB 1047 tem provocado um debate significativo dentro da indústria da tecnologia. Enquanto os defensores argumentam que é essencial proteger o público dos possíveis perigos da IA avançada, os opositores levantam preocupações sobre seu impacto potencial na inovação.

Críticos também argumentam que as regulamentações poderiam sobrecarregar as empresas, limitando sua capacidade de competir com os maiores gigantes tecnológicos. No entanto, o senador Wiener defendeu a legislação, enfatizando que ela visa empresas que gastam mais de $100 milhões no desenvolvimento de IA, isentando startups menores, conforme relatado pela Fortune.

Elon Musk, CEO e fundador da xAI, expressou seu apoio ao projeto de lei. Ele reconheceu seu potencial para incomodar alguns, mas enfatizou a necessidade de regulamentação para prevenir riscos públicos.

No entanto, outras grandes empresas de IA e especialistas manifestaram oposição. Por exemplo, o LA Times relata que o Diretor de Estratégia da OpenAI, Jason Kwon, escreveu em uma carta para Wiener, “Um conjunto de políticas de IA impulsionado pelo governo federal, ao invés de uma colcha de retalhos de leis estaduais, irá fomentar a inovação e posicionar os EUA para liderar o desenvolvimento de padrões globais.”

Além disso, a professora de Stanford Fei-Fei Li, uma especialista em IA, argumentou que, embora a legislação seja bem-intencionada, ela poderia ter consequências imprevistas significativas, incluindo danos à comunidade de código aberto e limitação do acesso acadêmico a modelos essenciais de IA.

Apesar da controvérsia, o SB 1047 também propõe a criação do CalCompute, um cluster de computação em nuvem pública, para apoiar o desenvolvimento responsável de IA e fornecer aos pesquisadores e desenvolvedores acesso aos recursos necessários.

Embora o projeto represente um passo significativo em direção à regulamentação da IA na Califórnia, críticos e apoiadores reconhecem que a paisagem em rápida evolução da IA pode exigir revisões adicionais na lei para enfrentar os desafios e oportunidades emergentes.