ANALISIS DAN DEKRIPSI RC4 PADA MALWARE

STUDI KASUS: KEYLOGGER

Abstract

Penelitian ini bertujuan untuk menganalisis dan mendekripsi algoritma RC4 yang digunakan dalam malware, dengan studi kasus pada keylogger. RC4 merupakan algoritma enkripsi stream cipher yang sering dimanfaatkan oleh malware untuk menyembunyikan aktivitas berbahaya. Proses dekripsi dilakukan menggunakan metode reverse engineering dan emulasi dengan Unicorn Engine, sebuah CPU emulator berbasis QEMU yang mendukung multi-arsitektur dan memiliki API yang ringan serta fleksibel. Penelitian ini dimulai dengan analisis statis terhadap sampel malware untuk mengidentifikasi lokasi algoritma RC4, diikuti dengan disassembling, decompiling, dan identifikasi byte code yang digunakan untuk enkripsi. Selanjutnya, byte code tersebut dijalankan dalam lingkungan emulasi menggunakan Unicorn Engine dengan konfigurasi memori dan register CPU yang sesuai. Proses dekripsi dilakukan dengan mengeksekusi kode RC4 secara parsial dan terkontrol, tanpa menjalankan keseluruhan malware secara langsung di sistem. Hasil penelitian menunjukkan bahwa pendekatan ini berhasil mendekripsi data hasil keylogging dengan rata-rata tingkat keberhasilan sebesar 94,46% dari total 278.983 byte data yang terenkripsi. Selain meningkatkan efisiensi analisis, metode ini juga mengurangi risiko infeksi sistem dan memungkinkan ekstraksi informasi penting dari malware secara aman. Dengan demikian, penggunaan emulator Unicorn terbukti efektif dalam mendukung proses dekripsi algoritma RC4 pada malware.