Optimasi Algoritma Pelatihan Levenberg–Marquardt Berdasarkan Variasi Nilai Learning-Rate dan Jumlah Neuron dalam Lapisan Tersembunyi

Hindayati Mustafidah, Amrisa Yanri Rahmadhani, Harjono Harjono

Abstract


Backpropagation (BP) merupakan salah satu paradigma pembelajaran dalam jaringan syaraf tiruan yang dibangun dengan banyak lapisan untuk mengubah bobot–bobot yang terhubung dengan neuron pada lapisan tersembunyi. Pengubahan bobot dilakukan oleh sebuah algoritma pelatihan sehingga mendekati bobot optimal. Kinerja algoritma pelatihan dikatakan optimal dapat dilihat dari error yang dihasilkan (MSE). Semakin kecil MSE, semakin optimal kinerjanya. Beberapa penelitian yang dilakukan sebelumnya, diperoleh informasi bahwa algoritma pelatihan yang paling optimal berdasarkan MSE terkecil adalah algoritma Levenberg–Marquardt (LM) dengan rata–rata MSE 0.001 dengan tingkat pengujian α=5%. Penelitian tersebut menggunakan 10 neuron dalam lapisan tersembunyi. Keadaan optimal banyaknya neuron dalam lapisan tersembunyi yang dapat menghasilkan MSE paling kecil belum diketahui. Oleh karena itu, dalam penelitian ini dilakukan analisis untuk mengetahui jumlah neuron yang paling optimal dalam lapisan tersembunyi pada algoritma LM. Parameter jaringan yang digunakan yaitu 15 neuron dalam lapisan input, target error=0.001 (10-3) dan variasi nilai laju pembelajaran. Penelitian ini menggunakan metode campuran yaitu pengembangan program komputer dan pengujian data statistik menggunakan ANOVA. Pengembangan program komputer digunakan untuk membangkitkan data random sebagai masukan jaringan, menjalankan algoritma LM, dan menghasilkan data keluaran. Hasil analisis menunjukkan bahwa dengan 27 neuron pada lapisan tersembunyi menghasilkan MSE terkecil yaitu 0.0000807±0.0001220 dengan laju pembelajaran=0.8.

Keywords


backpropagation, MSE, neuron, Levenberg–Marquardt, optimal.

References


[1] S. Shanmuganathan and S. Samarasinghe, Artificial Neural Network Modelling, vol. 628. Springer International Publishing, 2016.

[2] S. Kusumadewi, Artificial Intelligence (Teknik dan Aplikasinya). Yogyakarta: Graha Ilmu, 2003.

[3] H. Harjono and D. Aryanto, “Application of Artificial Neural Networks to Predict Student Achievement Study,” SAINTEKS, vol. 5, no. 2, 2009.

[4] H. Mustafidah, D. Aryanto, and D. K. Hakim, “Uji Optimalisasi Algoritma Pelatihan Conjugate Gradient pada Jaringan Syaraf Tiruan,” in Prosiding SENATEK, ISBN: 978-602-14355-0-2, 21 September 2013, 2013, p. B-9-1.

[5] H. Mustafidah, D. K. Hakim, and S. Sugiyanto, “Tingkat Keoptimalan Algoritma Pelatihan pada Jaringan Syaraf Tiruan (Studi Kasus Prediksi Prestasi Belajar Mahasiswa),” JUITA (Jurnal Inform., vol. II, no. 3, pp. 159 – 166, 2013.

[6] F. Wibowo, S. Sugiyanto, and H. Mustafidah, “Tingkat Ketelitian Pengenalan Pola Data pada Algoritma Pelatihan Perbaikan Metode Batch Mode dalam Jaringan Syaraf Tiruan,” JUITA (Jurnal Inform., vol. II, no. 4, pp. 259 – 264, 2013.

[7] H. Mustafidah, S. Hartati, R. Wardoyo, and A. Harjoko, “Prediction of Test Items Validity Using Artificial Neural Network,” in Proceeding International Conference on Education, Technology, and Science (NETS) 2013, “Improving The Quality Of Education To Face The Impact Of Technology”. December 28th, 2013, 2013.

[8] H. Mustafidah and S. Suwarsito, “Uji Keoptimalan Algoritma Pelatihan pada Jaringan Syaraf Tiruan,” in Prosiding Seminar Nasional SENATKOM 2015, 2015, pp. 243–248.

[9] S. Suwarsito and H. Mustafidah, “Knowledge Representation in the Determination of Fish Under Water Quality,” in International Conference of Result and Community Services, 2016, no. August, pp. 157–164.

[10] H. Mustafidah and S. Suwarsito, “Error Rate Testing of Training Algorithm in Back Propagation Network,” Int. J. Soft Comput. Eng., vol. 5, no. 4, pp. 46 – 50, 2015.

[11] H. Mustafidah and S. Suwarsito, “Correlation Analysis between Error Rate of Output and Learning Rate in Backpropagation Network,” in International Summit on Knowledge Advancements (ISKA 2017), 26-27 July 2017, 2017.

[12] H. Mustafidah and S. Suwarsito, “Correlation Analysis Between Error Rate of Output and Learning Rate in Backpropagation Network,” Adv. Sci. Lett., vol. 24, no. 12, pp. 9182–9185, 2018.

[13] H. Mustafidah and H. Harjono, “Korelasi Tingkat Kesalahan dan Epoh dalam Jaringan Backpropagation,” in Prosiding SEMNASTIKOM 2017, 3 November 2017, ISBN: 978-602-50434-0-6, 2017, pp. 55–61.

[14] S. Kusumadewi, Membangun Jaringan Syaraf Tiruan Menggunakan MATLAB & EXCEL LINK. Yogyakarta: Graha Ilmu, 2004.

[15] J. Heaton, Artificial Intelligence for Humans, Volume 3: Neural Networks and Deep Learning, 1.0. Chesterfield, USA: Heaton Research Inc., 2015.

[16] F. A. Irawan, Buku Pintar Pemograman Matlab. Yogyakarta: MediaKom - Andi, 2012.

[17] H. Mustafidah and S. Suwarsito, “Testing Design of Neural Network Parameters in Optimization Training Algorithm,” in International Conference of Result and Community Services, 6th August 2016, 2016, p. THN. 139-146.

[18] T. Taniredja and H. Mustafidah, Penelitian Kuantitatif (Sebuah Pengantar). Bandung: ALFABETA, 2011.

[19] J. Heaton, Introduction to Neural Networks with C#, Second. St. Louis: Heaton Research, Inc., 2008.


Full Text: PDF (Bahasa Indonesia)

DOI: 10.30595/juita.v7i1.4396

Refbacks

  • There are currently no refbacks.


Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.

ISSN: 2579-8901