Analisis Perbandingan Decision Tree, Random Forest, dan XGBoost dengan Seleksi Fitur pada Prediksi Risiko Diabetes

Abstract

Diabetes melitus merupakan salah satu penyakit tidak menular dengan prevalensi yang terus meningkat secara global. Deteksi dini risiko diabetes melalui pendekatan machine learning dapat membantu tenaga medis dalam melakukan intervensi lebih awal. Penelitian ini bertujuan membandingkan performa tiga algoritma klasifikasi berbasis pohon keputusan — Decision Tree, Random Forest, dan XGBoost — dalam memprediksi risiko diabetes, serta mengevaluasi pengaruh seleksi fitur menggunakan Recursive Feature Elimination (RFE) terhadap akurasi dan efisiensi komputasi model. Dataset yang digunakan adalah Diabetes Prediction Dataset dari Kaggle sebanyak 100.000 rekam medis, yang setelah pembersihan data (penghapusan duplikat dan perbaikan format numerik yang korup) tersisa 96.115 baris dengan proporsi kelas tidak seimbang (91,2% non-diabetes, 8,8% diabetes). Hasil pengujian menunjukkan bahwa seleksi fitur berhasil mereduksi jumlah fitur dari 12 menjadi 6 fitur inti (usia, hipertensi, penyakit jantung, BMI, HbA1c, dan kadar glukosa darah) tanpa menurunkan performa model — bahkan AUC Random Forest meningkat dari 0,9726 menjadi 0,9750 dan AUC XGBoost dari 0,9777 menjadi 0,9773, dengan waktu pelatihan yang lebih efisien (penurunan hingga 40% pada Decision Tree dan 29% pada XGBoost). Secara keseluruhan, XGBoost memberikan AUC tertinggi (0,9773–0,9777), sementara Random Forest unggul pada presisi. Fitur HbA1c dan kadar glukosa darah terbukti menjadi prediktor paling dominan, menyumbang lebih dari 86% total feature importance.