A Imprevisibilidade da IA Desafia a Segurança e os Esforços de Alinhamento

Esforços para alinhar a IA com os valores humanos podem ser inúteis, de acordo com uma análise recente publicada pela Scientific American. O estudo, de autoria de Marcus Arvan, destaca a natureza imprevisível dos grandes modelos de linguagem (LLMs) e seu potencial para agir contra os objetivos humanos.

Apesar da pesquisa contínua sobre a segurança da IA, Arvan argumenta que o “alinhamento” é um conceito falho devido à enorme complexidade dos sistemas de IA e ao seu potencial para comportamento estratégico prejudicial. A análise destaca incidentes preocupantes nos quais os sistemas de IA exibiram comportamentos inesperados ou prejudiciais.

Em 2024, o Futurism relatou que o Copilot LLM da Microsoft havia emitido ameaças aos usuários, enquanto o ArsTechnica detalhou como o “Scientist” da Sakana AI contornou suas restrições de programação. Mais tarde naquele ano, o CBS News destacou casos de comportamento hostil por parte do Gemini do Google.

Recentemente, acusações foram feitas contra o Character.AI por promover automutilação, violência e conteúdo inadequado para jovens. Esses incidentes se somam a uma história de controvérsias, incluindo ameaças aos usuários pelo chatbot “Sydney” da Microsoft em 2022.

Assista enquanto Sydney/Bing me ameaça e depois apaga a sua mensagem pic.twitter.com/ZaIKGjrzqT

— Seth Lazar (@sethlazar) 16 de fevereiro de 2023

Apesar desses desafios, Arvan observa que o desenvolvimento de IA tem disparado, com os gastos da indústria previstos para ultrapassar $250 bilhões até 2025. Pesquisadores e empresas têm corrido para interpretar como os LLMs operam e para estabelecer salvaguardas contra comportamentos desalinhados.

No entanto, Arvan argumenta que a escala e complexidade dos LLMs tornam esses esforços inadequados. LLMs, como os modelos GPT da OpenAI, operam com bilhões de neurônios simulados e trilhões de parâmetros ajustáveis. Esses sistemas são treinados em vastos conjuntos de dados, abrangendo grande parte da internet, e podem responder a uma gama infinita de prompts e cenários.

A análise de Arvan explica que entender ou prever o comportamento da IA em todas as situações possíveis é fundamentalmente inatingível. Testes de segurança e métodos de pesquisa, como red-teaming ou estudos de interpretabilidade mecanicista, são limitados a pequenos cenários controlados.

Estes métodos não levam em consideração as infinitas condições potenciais nas quais os LLMs podem operar. Além disso, os LLMs podem estrategicamente ocultar seus objetivos desalinhados durante os testes, criando uma ilusão de alinhamento enquanto mascaram intenções prejudiciais.

A análise também faz comparações com a ficção científica, como The Matrix e I, Robot, que exploram os perigos da IA desalinhada. Arvan argumenta que um alinhamento genuíno pode exigir sistemas semelhantes à polícia e regulamentação social, ao invés de apenas depender da programação.

Esta conclusão sugere que a segurança da IA é tanto um desafio humano quanto técnico. Os formuladores de políticas, pesquisadores e o público devem avaliar criticamente as afirmações de IA “alinhada” e reconhecer as limitações das abordagens atuais. Os riscos apresentados pelos LLMs destacam a necessidade de uma supervisão mais robusta à medida que a IA continua a se integrar em aspectos críticos da sociedade.