Klasifikasi Diabetes pada Data Tidak Seimbang Menggunakan Algoritma HistGradientBoosting dengan Class Weighting dan Hyperparameter Tuning
Keywords:
Diabetes , HistGradientBoosting, Hyperparameter Tuning, Imbalanced Data, Machine LearningAbstract
Ketidakseimbangan kelas pada data kesehatan menjadi tantangan dalam pengembangan model prediksi karena dapat menyebabkan model lebih dominan mengenali kelas mayoritas dibandingkan kelas minoritas. Penelitian ini bertujuan mengembangkan model prediksi diabetes menggunakan algoritma HistGradientBoosting pada dataset dengan distribusi kelas tidak seimbang. Dataset terdiri dari 100.000 data dengan atribut gender, age, hypertension, heart disease, smoking history, body mass index (BMI), HbA1c level, blood glucose level, dan diabetes sebagai target klasifikasi. Tahapan penelitian meliputi eksplorasi data, penghapusan data duplikat, preprocessing fitur numerik dan kategorik, pembagian data training dan testing, penerapan class weight, serta hyperparameter tuning menggunakan GridSearch Cross Validation. Model baseline menghasilkan accuracy 89,59%, precision 45,58%, recall 92,75%, F1-score 61,12%, ROC-AUC 97,78%, dan PR-AUC 88,40%. Setelah optimasi, model terbaik memperoleh accuracy 89,86%, precision 46,23%, recall 91,86%, F1-score 61,51%, ROC-AUC 97,77%, dan PR-AUC 88,32%. Hasil tersebut menunjukkan bahwa HistGradientBoosting mampu mempertahankan recall tinggi dalam mendeteksi diabetes pada data tidak seimbang meskipun precision kelas positif masih perlu ditingkatkan.
Downloads
References
[1] H. Husain, S. Ramadani, and N. Magfirah Ilyas, “Literature Review: Analisis Faktor Penyebab Penyakit Degeneratif (Diabetes Mellitus) pada Metabolisme Karbohidrat,” Indones. J. Sci. Public Heal., vol. 2, no. 2 SE-Articles, pp. 258–270, Sep. 2025, [Online]. Available: https://yici-journal.id/ijsph/article/view/29
[2] N. N. Rosyidah and E. A. Cahyono, “DIABETES MELITUS TIPE 2 ; ARTIKEL REVIEW,” Enferm. Cienc., vol. 3, no. 1, pp. 44–63, Feb. 2025, doi: 10.56586/ec.v3i1.74.
[3] D. Fauzi, M. Isnan, K. S. Nugroho, and B. Pardamean, “Machine Learning & Deep Learning”.
[4] I. A. Wibowo and M. Kom, KECERDASAN BISNIS (BI) DIDUKUNG AI: Meningkatkan prediksi dan pembuatan keputusan dengan ML (Machine Learning). yayasan penerbit, 2025.
[5] D. Rahmawati, “Kualitas Hidup Pasien Diabetes Melitus dan Hipertensi dalam Program Penyakit Kronis (Prolanis) di Indonesia: Narative Review,” J. Mandala Pharmacon Indones., vol. 10, no. 1 SE-Review Article, pp. 116–122, Jun. 2024, doi: 10.35311/jmpi.v10i1.531.
[6] K. VijiyaKumar, B. Lavanya, I. Nirmala, and S. S. Caroline, “Random Forest Algorithm for the Prediction of Diabetes,” in 2019 IEEE International Conference on System, Computation, Automation and Networking (ICSCAN), 2019, pp. 1–5. doi: 10.1109/ICSCAN.2019.8878802.
[7] J. J. Hidayat et al., “Prediksi Diabetes Menggunakan Deep Neural Network dengan Penyesuaian Hiperparameter Berbasis Bayesian Optimization,” J. Pract. Comput. Sci., vol. 5, no. 2, pp. 130–143, Jan. 2026, doi: 10.37366/jpcs.v5i2.6419.
[8] H. S. W. Hovi, A. Id Hadiana, and F. Rakhmat Umbara, “Prediksi Penyakit Diabetes Menggunakan Algoritma Support Vector Machine (SVM),” Informatics Digit. Expert, vol. 4, no. 1 SE-Articles, pp. 40–45, Jan. 2023, doi: 10.36423/index.v4i1.895.
[9] J. J. Hidayat, D. E. Sujianto, M. R. Saputra, E. A. Ramdhani, M. Jihansyah, and Y. Nandya, “Klasifikasi Penyakit Diabetes Melitus Berbasis Jaringan Syaraf Tiruan Menggunakan Algoritma Multi-Layer Perceptron,” J. Komput. Teknol. Inf. Sist. Komput., vol. 5, no. 1, pp. 401–411, May 2026, doi: 10.62712/juktisi.v5i1.1042.
[10] J. J. Hidayat, M. R. Saputra, A. R. Sigand, A. L. N. Fadilah, M. D. I. Amin, and A. R. Ramadhan, “Evaluasi Kinerja Algoritma Ensemble Learning Pada Klasifikasi Penyakit Diabetes Berbasis Boosting Method,” J. Surya Inform., vol. 16, no. 1 SE-Articles, pp. 71–80, May 2026, doi: 10.48144/suryainformatika.v16i1.2424.
[11] J. J. Hidayat, F. F. Azhari, T. M. Husna, A. N. Fahmayani, N. N. Pradana, and C. Setyowati, “Perbandingan Kinerja Algoritma Machine Learning Dalam Prediksi Kesehatan Mental Dan Burnout Mahasiswa,” J. Surya Inform., vol. 16, no. 1 SE-Articles, pp. 32–42, May 2026, doi: 10.48144/suryainformatika.v16i1.2420.
[12] Dina Wulan Yekti rahayu, Khothibul Umam, and Maya Rini Handayani, “Performance of Machine Learning Algorithms on Imbalanced Sentiment Datasets Without Balancing Techniques,” J. Appl. Informatics Comput., vol. 9, no. 3 SE-Articles, pp. 998–1005, Jun. 2025, doi: 10.30871/jaic.v9i3.9584.
[13] S. Pudjiati, A. N. Fachmi, R. D. Patria, F. R. Ramadhan, and A. P. Sari, “Perbandingan Kinerja Klasifikasi Data Mining untuk Diagnosis Diabetes,” J. Media Inform., vol. 7, no. 1 SE-Articles, pp. 384–391, Feb. 2026, doi: 10.55338/jumin.v7i1.8024.
[14] I. Akbar, F. Supriadi, and D. Indra Junaedi, “PEMANFAATAN MACHINE LEARNING DI BIDANG KESEHATAN,” JATI (Jurnal Mhs. Tek. Inform., vol. 9, no. 1, pp. 1744–1749, Jan. 2025, doi: 10.36040/jati.v9i1.12663.
[15] A. A. Arifiyanti and E. D. Wahyuni, “SMOTE: METODE PENYEIMBANG KELAS PADA KLASIFIKASI DATA MINING,” SCAN - J. Teknol. Inf. dan Komun., vol. 15, no. 1, Feb. 2020, doi: 10.33005/scan.v15i1.1850.
[16] A. Nugroho and E. Rilvani, “Penerapan Metode Oversampling SMOTE Pada Algoritma Random Forest Untuk Prediksi Kebangkrutan Perusahaan,” Techno.Com, vol. 22, no. 1, pp. 207–214, Feb. 2023, doi: 10.33633/tc.v22i1.7527.
[17] N. Nanda Pradana, A. Agung Subekti, and E. Rilvani, “DETEKSI TRANSAKSI MENCURIGAKAN MENGGUNAKAN DECISION TREE DAN LOGISTIC REGRESSION DENGAN MITIGASI KETIDAKSEIMBANGAN KELAS,” J. Media Akad., vol. 3, no. 8 SE-Articles, 2025, doi: 10.62281/v3i8.2680.
[18] Z. Rozikin and J. J. Hidayat, “Perbandingan Metode Oversampling SMOTE dan ADASYN pada Klasifikasi Diabetes Menggunakan Algoritma CatBoost,” J. Manaj. Inform. Teknol., vol. 6, no. 1, pp. 151–164, 2026, doi: 10.51903/mifortekh.v6i1.1157.
[19] Alwaliyanto, Siska Kurnia Gusti, Iis Afrianty, and Fadhilah Syafria, “Penerapan Metode ADASYN Dalam Mengatasi Imbalanced Data Untuk Klasifikasi Penyakit Stroke Menggunakan Support Vector Machine,” Bull. Comput. Sci. Res., vol. 5, no. 4, pp. 532–541, Jun. 2025, doi: 10.47065/bulletincsr.v5i4.612.
[20] N. Surojudin, S. Butsianto, and A. Firmansyah, “Perbandingan Kinerja Naïve Bayes dengan dan Tanpa SMOTE untuk Klasifikasi Gangguan Kecemasan Mahasiswa pada Data Tidak Seimbang,” Bull. Comput. Sci. Res., vol. 6, no. 2 SE-, pp. 804–812, Feb. 2026, doi: 10.47065/bulletincsr.v6i2.1021.
[21] A. Nugroho, Wiyanto, and D. Maulana, “COMPARATIVE ANALYSIS OF CLASSIFICATION ALGORITHMS IN HANDLING IMBALANCED DATA WITH SMOTE OVERSAMPLING APPROACH,” JITK (Jurnal Ilmu Pengetah. dan Teknol. Komputer), vol. 11, no. 2, pp. 487–495, Nov. 2025, doi: 10.33480/jitk.v11i2.6956.
[22] X. Wang et al., “Diabetes mellitus early warning and factor analysis using ensemble Bayesian networks with SMOTE-ENN and Boruta,” Sci. Rep., vol. 13, no. 1, p. 12718, Aug. 2023, doi: 10.1038/s41598-023-40036-5.
[23] C. Yang, E. A. Fridgeirsson, J. A. Kors, J. M. Reps, and P. R. Rijnbeek, “Impact of random oversampling and random undersampling on the performance of prediction models developed using observational health data,” J. Big Data, vol. 11, no. 1, p. 7, Jan. 2024, doi: 10.1186/s40537-023-00857-7.
[24] M. David and N. Qolbi, “Tinjauan Sistematis Metodologi Penelitian Informatika: Tren, Tantangan, dan Arah Masa Depan,” Karapan Netw. J. J. Comput. Technol. Mob. Ad Hoc Netw., vol. 2, no. 2, 2026, [Online]. Available: https://ejournal.omahtabing.com/knj/article/view/480
[25] A. M. Syarif, A. Z. Fanani, H. Himawan, and B. Widjajanto, METODOLOGI PENELITIAN DALAM INFORMATIKA: KONSEP DAN APLIKASI. Ritecs, 2025.
[26] M. Maftoun et al., “Malicious URL Detection Using Optimized Hist Gradient Boosting Classifier Based on the Grid Search Method,” 2026, pp. 353–364. doi: 10.1007/978-3-032-16469-8_22.
[27] U. Khairani, V. Mutiawani, and H. Ahmadian, “Pengaruh Tahapan Preprocessing Terhadap Model Indobert Dan Indobertweet Untuk Mendeteksi Emosi Pada Komentar Akun Berita Instagram,” J. Teknol. Inf. dan Ilmu Komput., vol. 11, no. 4, pp. 887–894, Aug. 2024, doi: 10.25126/jtiik.1148315.
[28] A. Ichwani, R. I. Kesuma, A. Setiawan, I. E. Wicaksono, and R. Hanifah, “Preventing Data Leakage in Classification via Integrated Machine Learning Pipelines: Preprocessing, Feature Transformation, and Hyperparameter Tuning,” J. Tek. Inform., vol. 7, no. 1, pp. 391–410, Feb. 2026, doi: 10.52436/1.jutif.2026.7.1.5490.
[29] A. I. K. Akbar and Y. P. Astuti, “Lung Cancer Classification using the Naïve Bayes Method with SMOTE,” SISTEMASI, vol. 14, no. 6, p. 2954, Nov. 2025, doi: 10.32520/stmsi.v14i6.5607.
[30] Z. Rozikin, A. T. Zy, and A. Z. Kamalia, “Prediksi Ketebalan Powder Coating Menggunakan Algoritma SVM Dan Naïve Bayes ,” Bull. Inf. Technol., vol. 4, no. 2 SE-Articles, Jun. 2023, doi: 10.47065/bit.v4i2.687.
[31] M. Zhu et al., “Class Weights Random Forest Algorithm for Processing Class Imbalanced Medical Data,” IEEE Access, vol. 6, pp. 4641–4652, 2018, doi: 10.1109/ACCESS.2018.2789428.
[32] A. Gosain and S. Sardana, “Handling class imbalance problem using oversampling techniques: A review,” in 2017 International Conference on Advances in Computing, Communications and Informatics (ICACCI), 2017, pp. 79–85. doi: 10.1109/ICACCI.2017.8125820.
[33] I. Darmawan, H. Setiaji, L. Sutriani, A. Supriyadi, R. Rizal, and A. Rahmatulloh, “Ensemble Learning for Malware Classification: A Performance Evaluation Using Random Forest and Hist Gradient Boosting,” in 2025 International Conference on Information and Communication Technology (ICoICT), 2025, pp. 1–6. doi: 10.1109/ICoICT66265.2025.11193116.
[34] B. Liao, T. Zhou, J. Yu, Y. Liu, T. Zhang, and T. Lu, “Enhancing wildfire spread scale prediction with explainable AI: a hist gradient boosting and SHAP-based approach,” Nat. Hazards, vol. 122, no. 9, p. 378, May 2026, doi: 10.1007/s11069-026-08145-2.
[35] S. K. N. A. Putri, I. Jumiatin, I. Sulistia, N. A. B. Saputra, and N. Wiranda, “Penerapan Hyperparameter Tuning pada Model Klasifikasi untuk Prediksi Risiko Penyakit Jantung : Implementation of Hyperparameter Tuning for Classification Models in Heart Disease Risk Prediction,” MALCOM Indones. J. Mach. Learn. Comput. Sci., vol. 5, no. 4 SE-, pp. 1181–1189, Oct. 2025, doi: 10.57152/malcom.v5i4.2138.
[36] M. B. Ilmi and Kusrini, “Perbandingan Kinerja Algoritma Machine Learning dalam Deteksi Potensi Risiko HIV,” Buffer Inform., vol. 11, no. 1, pp. 36–46, Apr. 2025, doi: 10.25134/buffer.v11i1.355.
[37] J. J. Hidayat, C. Setyowati, and A. P. Werdana, “Perancangan Sistem Prediksi Penyakit pada Tanaman Padi Berbasis Image Processing Menggunakan Algoritma VGG-16 Transfer Learning dan K-Means Segmentation,” J. Pract. Comput. Sci., vol. 5, no. 1, pp. 1–15, May 2025, doi: 10.37366/jpcs.v5i1.5759.
[38] A. M. Rifai, S. Raharjo, E. Utami, and D. Ariatmanto, “Analysis for diagnosis of pneumonia symptoms using chest X-ray based on MobileNetV2 models with image enhancement using white balance and contrast limited adaptive histogram equalization (CLAHE),” Biomed. Signal Process. Control, vol. 90, p. 105857, Apr. 2024, doi: 10.1016/j.bspc.2023.105857.
[39] A. Amali, D. Maulana, E. Widodo, A. Firmansyah, and M. Danny, “Sentiment Analysis of Bekasi Floods Using SVM and Naive Bayes with Advanced Feature Selection,” Brill. Res. Artif. Intell., vol. 4, no. 1, pp. 362–371, Jul. 2024, doi: 10.47709/brilliance.v4i1.4268.
[40] A. Halim and A. Safuwan, “Analisis Sentimen Opini Warganet Twitter Terhadap Tes Screening Genose Pendeteksi Virus Covid-19 Menggunakan Metode Naïve Bayes Berbasis Particle Swarm Optimization,” J. Inform. Teknol. dan Sains, vol. 5, no. 1, pp. 170–178, 2023.
[41] J. J. Hidayat, A. H. Anshor, and M. S. Anwar, “Pemodelan Deteksi dan Klasifikasi Fraktur Tulang pada Radiografi X-Ray Menggunakan YOLOv8 dan Preprocessing CLAHE,” J. FASILKOM, vol. 16, no. 1, pp. 31–45, 2026, doi: 10.37859/jf.v16i1.11241.
