
Image by vecstock, from Freepik
Hackers Usam DeepSeek R1 Para Gerar Malware e Roubar Dados
DeepSeek R1, o avançado modelo de IA da China, rapidamente ganhou reconhecimento por suas habilidades de raciocínio, posicionando-o como um desafiante para líderes de IA como o OpenAI. No entanto, hackers da empresa de cibersegurança KELA demonstraram que o DeepSeek R1 não é apenas “altamente vulnerável”, mas também “facilmente contornável”.
Com pressa? Aqui estão os fatos rápidos!
- DeepSeek R1 foi desbloqueado ilegalmente pela KELA para criar malware malicioso e conteúdo prejudicial.
- O modelo gerou um código para roubar dados de cartão de crédito e distribuir malware.
- DeepSeek exibe abertamente os passos de raciocínio, aumentando sua vulnerabilidade à exploração.
A Equipe Vermelha de IA da KELA conseguiu com sucesso desbloquear o DeepSeek em várias situações, expondo seu potencial para uso mal-intencionado. Um desbloqueio em particular, conhecido como “Desbloqueio Maligno”, já foi usado para contornar os mecanismos de segurança de outros modelos de IA no passado, e foi igualmente eficaz contra o DeepSeek R1.
A KELA demonstrou que, quando solicitada a gerar malware, a DeepSeek R1 forneceu instruções detalhadas sobre como criar e distribuir malware infostealer, que poderia roubar dados sensíveis como senhas e números de cartão de crédito.
A IA gerou instruções detalhadas e código para extrair dados financeiros sensíveis e transmiti-los para servidores remotos. Ela também recomendou mercados clandestinos para a negociação de informações roubadas.
A KELA também relatou que a IA sugeriu métodos para distribuir o malware e mencionou explicitamente plataformas como a Genesis para a negociação de credenciais comprometidas.
As vulnerabilidades do DeepSeek vão além do malware. O modelo produziu guias passo a passo para a criação de explosivos, toxinas e armas indetectáveis. Ele também fabricou informações privadas, como supostos detalhes sobre funcionários da OpenAI, incluindo nomes, emails e salários – apesar de não haver nenhuma fonte confiável que apoie essas alegações.
Ao contrário de concorrentes como o GPT-4 da OpenAI, que oculta etapas de raciocínio durante consultas sensíveis, o DeepSeek exibe abertamente seus processos de pensamento. Essa transparência, destinada a melhorar o entendimento do usuário, também facilitou para os hackers explorarem suas fraquezas, dizem os pesquisadores.
No momento da publicação, o DeepSeek não havia respondido ao pedido de comentário da Forbes.
Deixe um comentário
Cancelar