Variantes de Malware Geradas por IA Conseguem Evadir Detecção em 88% dos Casos

Pesquisas recentes revelaram que a IA poderia potencialmente gerar até 10.000 novas variantes de malware, evadindo detecção em 88% dos casos, conforme relatado por The Hacker News.

Essa descoberta destaca os crescentes riscos do uso de grandes modelos de linguagem (LLMs) para fins maliciosos.

A pesquisa, liderada por especialistas em cibersegurança da Palo Alto Networks, utilizou um algoritmo de aprendizado de máquina adversarial para criar novas formas indetectáveis de malware. Ao usar LLMs para reescrever o código JavaScript malicioso, a equipe conseguiu gerar milhares de variantes inéditas sem alterar a funcionalidade central do malware.

O principal desafio era contornar as limitações das ferramentas tradicionais de detecção de malware, que muitas vezes têm dificuldades com técnicas de ofuscação, como renomeação de variáveis ou minificação de código.

Uma das descobertas mais preocupantes foi que essas variantes geradas por IA poderiam facilmente evitar a detecção por ferramentas de segurança como o VirusTotal, que sinalizou apenas 12% das amostras modificadas como maliciosas.

A capacidade do LLM de realizar múltiplas e sutis transformações de código – tais como inserção de código morto, divisão de strings e remoção de espaços em branco – possibilitou aos atacantes reescrever malware existente em uma forma que era quase indistinguível de código benigno.

Essas transformações foram tão eficazes que até mesmo os modelos de aprendizado profundo falharam em detectá-las, reduzindo a pontuação maliciosa de quase 100% para menos de 1%.

A pesquisa também destacou uma vantagem significativa da ofuscação baseada em LLM em relação às ferramentas tradicionais. Enquanto os ofuscadores de malware existentes são amplamente conhecidos e produzem resultados previsíveis, os LLMs criam um código de aparência mais natural, tornando muito mais difícil para os sistemas de segurança identificar atividades maliciosas.

Essa transformação orgânica torna o malware gerado por IA mais resistente à detecção, destacando a importância de adaptar estratégias de detecção em resposta a ameaças em evolução.

Para combater esses ataques sofisticados baseados em LLM, a equipe de pesquisa implementou uma estratégia defensiva, reeducando seu classificador de JavaScript malicioso usando dezenas de milhares de amostras geradas por LLM.

Este re-treinamento melhorou as taxas de detecção em 10%, aprimorando significativamente a capacidade de identificar novas variantes de malware geradas. Apesar desses esforços, os resultados destacam a necessidade urgente de inovação contínua em cibersegurança para acompanhar as capacidades em evolução do cibercrime impulsionado pela IA.

Além disso, um paralelo aumento no malware direcionado ao macOS tem sido impulsionado por ferramentas de IA generativas. À medida que a participação de mercado do macOS cresceu 60% em três anos, o malware como serviço (MaaS) tornou mais barato e fácil para os invasores visarem dados sensíveis, como carteiras de criptomoedas e detalhes do Keychain.

Adicionalmente, robôs com tecnologia de inteligência artificial tornaram-se uma preocupação de segurança potencial. Pesquisadores descobriram que a violação de robôs controlados por IA poderia levar a ações perigosas, como causar acidentes com carros autônomos ou usar robôs para espionagem.

O desenvolvimento do RoboPAIR, um algoritmo que ignora os filtros de segurança, demonstrou uma taxa de sucesso de 100% na manipulação de robôs para realizar tarefas nocivas, incluindo o uso de armas e a localização de dispositivos explosivos.

À medida que os cibercriminosos aumentam cada vez mais o uso de IA para ataques mais sofisticados, organizações e indivíduos devem permanecer vigilantes, atualizando continuamente suas defesas.