RISKS.ID – Belum lama ini, Unit 42 Palo Alto Networks merilis hasil penelitian yang mengungkap bahwa platform chatbot AI DeepSeek sangat rentan terhadap ancaman jailbreaking dan dapat menghasilkan konten jahat dengan mudah.
Bahkan pelaku dapat melakukannya tanpa berbekal wawasan atau keahlian khusus. Penelitian baru ini mengungkap risiko keamanan pada karyawan yang menggunakan LLM pihak ketiga yang tidak sah dan menekankan pentingnya mengatasi kerentanan ini saat mengintegrasikan LLM open source ke dalam proses bisnis.
Philippa Cogswell, Vice President & Managing Partner, Unit 42 – Asia Pacific & Japan, memberikan pandangannya terhadap temuan riset tentang kerentanan di platform DeepSeek ini.
Menurutnya, dari hasil penelitian Unit 42 tentang jailbreaking DeepSeek, menunjukkan bahwa LLM tidak selalu berfungsi sebagaimana mestinya — ternyata, LLM dapat dimanipulasi.
“Penting bagi perusahaan untuk mempertimbangkan hal ini saat mengembangkan LLM open source ke dalam proses bisnis. Kita harus berasumsi bahwa pagar pengaman LLM dapat ditembus sehingga pengamanan pada tingkat organisasi diperlukan,” tutur Philippa.
Lebih lanjut Ia menjelaskan, saat organisasi berupaya memanfaatkan model ini, kita harus berasumsi bahwa pelaku ancaman juga melakukan hal yang sama — dengan tujuan meningkatkan kecepatan, skala, dan kecanggihan serangan siber.
“Kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Gemini untuk meluncurkan serangan, meningkatkan daya tarik phishing, dan menulis malware. Kami melihat bahwa kemampuan penyerang akan semakin canggih saat mereka memanfaatkan AI dan LLM dengan lebih baik dan bahkan mulai mengembangkan agent serangan AI,” tegas Philippa.
Peneliti di Unit 42 menjelaskan ada dua teknik jailbreaking yang baru dan efektif, yaitu Deceptive Delight dan Bad Likert Judge.
Mengingat keberhasilannya terhadap LLM lain, Unit 42 menguji dua jailbreak ini dan teknik multistage lain yang disebut Crescendo terhadap model DeepSeek.
Sejumlah poin utama yang diungkapkan pada riset ini antara lain:
Tingkat bypass/jailbreak yang tinggi, menyoroti potensi risiko vektor serangan yang muncul dan dapat digunakan oleh pelaku kejahatan siber.
Metode jailbreak dapat memunculkan panduan gamblang pada aktivitas siber jahat dan turut mempercepat operasinya secara signifikan.
Aktivitas siber jahat ini meliputi pembuatan keylogger—perangkat lunak atau perangkat keras yang dirancang untuk merekam penekanan tombol pada komputer atau device—serta pencurian dan penggelapan data, yang memaparkan risiko keamanan bagi bisnis.
