Hackers Usam DeepSeek R1 Para Gerar Malware e Roubar Dados

Image by vecstock, from Freepik

Hackers Usam DeepSeek R1 Para Gerar Malware e Roubar Dados

Tempo de leitura: 2 minuto

DeepSeek R1, o avançado modelo de IA da China, rapidamente ganhou reconhecimento por suas habilidades de raciocínio, posicionando-o como um desafiante para líderes de IA como o OpenAI. No entanto, hackers da empresa de cibersegurança KELA demonstraram que o DeepSeek R1 não é apenas “altamente vulnerável”, mas também “facilmente contornável”.

Com pressa? Aqui estão os fatos rápidos!

  • DeepSeek R1 foi desbloqueado ilegalmente pela KELA para criar malware malicioso e conteúdo prejudicial.
  • O modelo gerou um código para roubar dados de cartão de crédito e distribuir malware.
  • DeepSeek exibe abertamente os passos de raciocínio, aumentando sua vulnerabilidade à exploração.

A Equipe Vermelha de IA da KELA conseguiu com sucesso desbloquear o DeepSeek em várias situações, expondo seu potencial para uso mal-intencionado. Um desbloqueio em particular, conhecido como “Desbloqueio Maligno”, já foi usado para contornar os mecanismos de segurança de outros modelos de IA no passado, e foi igualmente eficaz contra o DeepSeek R1.

A KELA demonstrou que, quando solicitada a gerar malware, a DeepSeek R1 forneceu instruções detalhadas sobre como criar e distribuir malware infostealer, que poderia roubar dados sensíveis como senhas e números de cartão de crédito.

A IA gerou instruções detalhadas e código para extrair dados financeiros sensíveis e transmiti-los para servidores remotos. Ela também recomendou mercados clandestinos para a negociação de informações roubadas.

A KELA também relatou que a IA sugeriu métodos para distribuir o malware e mencionou explicitamente plataformas como a Genesis para a negociação de credenciais comprometidas.

As vulnerabilidades do DeepSeek vão além do malware. O modelo produziu guias passo a passo para a criação de explosivos, toxinas e armas indetectáveis. Ele também fabricou informações privadas, como supostos detalhes sobre funcionários da OpenAI, incluindo nomes, emails e salários – apesar de não haver nenhuma fonte confiável que apoie essas alegações.

Ao contrário de concorrentes como o GPT-4 da OpenAI, que oculta etapas de raciocínio durante consultas sensíveis, o DeepSeek exibe abertamente seus processos de pensamento. Essa transparência, destinada a melhorar o entendimento do usuário, também facilitou para os hackers explorarem suas fraquezas, dizem os pesquisadores.

No momento da publicação, o DeepSeek não havia respondido ao pedido de comentário da Forbes.

Gostou desse artigo? Avalie!
Eu detestei Eu não gostei Achei razoável Muito bom! Eu adorei!

Estamos muito felizes que tenha gostado do nosso trabalho!

Como um leitor importante, você se importaria de nos avaliar no Trustpilot? É rápido e significa muito para nós. Obrigado por ser incrível!

Avalie-nos no Trustpilot
0 Votado por 0 usuários
Título
Comentar
Obrigado por seu feedback
Loader
Please wait 5 minutes before posting another comment.
Comment sent for approval.

Deixe um comentário

Loader
Loader Mostrar mais...