KINERJA MODEL DEEP LEARNING UNTUK DETEKSI SERANGAN SSH BRUTE FORCE

Abstract

Serangan Secure Shell (SSH) brute force merupakan salah satu ancaman umum pada layanan jaringan karena dilakukan melalui percobaan autentikasi berulang hingga memperoleh akses tidak sah. Pendekatan berbasis deep learning banyak digunakan dalam sistem deteksi intrusi (Intrusion Detection System/IDS) untuk meningkatkan kemampuan identifikasi pola serangan. Penelitian ini bertujuan untuk menganalisis dan membandingkan kinerja model Convolutional Neural Network (CNN), Long Short-Term Memory (LSTM), dan Autoencoder dalam mendeteksi serangan SSH brute force. Dataset diperoleh dari hasil simulasi lalu lintas jaringan pada lingkungan virtual berbasis Linux yang menghasilkan 100.000 paket mentah dan difilter menjadi 20.163 record trafik SSH, terdiri dari 12.163 data serangan dan 8.000 data normal. Data dibagi menggunakan skema train-test split 80:20. Evaluasi model dilakukan menggunakan confusion matrix, accuracy, precision, recall, F1-score, dan ROC-AUC. Hasil eksperimen menunjukkan bahwa CNN memberikan performa terbaik dengan ROC-AUC sebesar 0,9934 dan recall 1,00 tanpa false negative. LSTM menunjukkan performa yang sangat kompetitif dengan ROC-AUC 0,9825 dan recall 1,00, sedangkan Autoencoder menghasilkan performa lebih rendah dengan ROC-AUC 0,7325 dan recall 0,03. Berdasarkan hasil tersebut, CNN dinilai sebagai arsitektur yang paling efektif untuk mendeteksi serangan SSH brute force pada dataset penelitian ini.