ЗАСТОСУВАННЯ МЕРЕЖІ ГЛИБОКОЇ ДОВІРИ В ЗАДАЧІ РОЗПІЗНАВАННЯ ЗОБРАЖЕНЬ
DOI:
https://doi.org/10.26642/tn-2016-3(78)-114-118Ключові слова:
нейронні мережі, перцептрон, глибинне навчанняАнотація
З метою дослідження концепції глибинного навчання, зокрема підмінубагатошарового перцептрона на відповідну мережу глибинної довіри, було проведено
комп’ютерне моделювання процесу навчання на тестовій виборці даних.
Багатошаровий перцептрон був замінений на мережу глибинної довіри, що
складається із послідовних обмежених машин Больцмана. Після навчання мережі
глибинної довіри алгоритмом layer-wise training було виявлено, що використання
мереж глибинної довіри значно покращує точність навчання багатошарового
перцептрона методом зворотного розповсюдження помилки.
Посилання
Bengio, Y. (2009), “Learning deep architectures for AI”, Foundations and Trends in Machine Learning, No. 21 (6), pp. 1601–1621.
Bengio, Y., Lamblin, P., Popovici, D. and Larochelle, H. (2007), “Greedy Layer-Wise Training of Deep Networks”, Advances in Neural Information Processing Systems, No. 19, pp. 153–160.
Deng, L. and Ju, D. (2013), “Deep Learning: Methods and Applications”, Foundations and Trends in Signal Processing, No. 7, pp. 197–387.
Goodfellow, I. (2014), Deep learning of representations and its application to computer vision, Avril, 139 p.
Hinton, G.E., Osindero, S. and The, Y. (2006), “A fast learning algorithm for deep belief nets”, Neural Computation, No. 18, pp. 1527–1554.
Hinton, G.E. (2002), “Training products of experts by minimizing contrastive divergence”, Neural Computation, No. 14 (8), pp. 1711–1800.
Hinton, G.E. and Salakhutdinov, R. (2006), “Reducing the dimensionality of data with neural networks”, Science, No. 313, pp. 504–507.
Salakhutdinov, R. and Hinton, G.E. (2009), “Deep Boltzmann machines”, Proceedings of The Twelfth International Conference on Artificial Intelligence and Statistics (AISTATS'09), No. 5, pp. 448–455.
Salakhutdinov, R. and Hinton, G.E. (2012), “An efficient learning procedure for deep Boltzmann machine”, Neural computation, No. 24 (8), pp. 1967–2006.
Utgoff, P. and Stracuzzi, D. (2002), “Many-layered learning”, Neural Computation, No. 14, pp. 2497–2539.
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2020 Олена Іллівна Чумаченко, Геннадій Олександрович Сіпаков
Ця робота ліцензується відповідно до Creative Commons Attribution-NonCommercial 4.0 International License.
Автор, який подає матеріали до друку, зберігає за собою всі авторські права та надає відповідному виданню право першої публікації, дозволяючи розповсюджувати даний матеріал із зазначенням авторства та джерела первинної публікації, а також погоджується на розміщення її електронної версії на сайті Національної бібліотеки ім. В.І. Вернадського та у відкритому доступі в електронному архіві університету та на сайті журналу.