Дълбокото обучение (известно още като дълбоко структурирано обучение) е част от по-широко семейство методи за машинно самообучение, основано на изкуствени невронни мрежи с учебно представяне. В превод , наричано многослойно обучение, е метод за машинно самообучение на машините, което използва изкуствени невронни мрежи с многобройни междинни слоеве между слоя за въвеждане и слоя за извеждане и с това образува широкообхватна вътрешна структура. Ученето може да бъде контролирано, полуконтролирано или неконтролирано.Bengio, Y.; Courville, A.; Vincent, P. (2013). „Representation Learning: A Review and New Perspectives“. IEEE Transactions on Pattern Analysis and Machine Intelligence. 35 (8): 1798 – 1828. arXiv:1206.5538. doi:10.1109/tpami.2013.50. PMID 23787338. S2CID 393948.Schmidhuber, J. (2015). „Deep Learning in Neural Networks: An Overview“. Neural Networks. 61: 85 – 117. arXiv:1404.7828. doi:10.1016/j.neunet.2014.09.003. PMID 25462637. S2CID 11715509.Bengio, Yoshua; LeCun, Yann; Hinton, Geoffrey (2015). „Deep Learning“. Nature. 521 (7553): 436 – 444. Bibcode:2015Natur.521..436L. doi:10.1038/nature14539. PMID 26017442. S2CID 3074096.

Дълбоко обучаващи се архитектури като дълбоки невронни мрежи, дълбоки мрежи за сигурност, графични невронни мрежи, повтарящи се невронни мрежи и конволюционни невронни мрежи намират приложение в компютърното зрение, разпознаването на реч, обработката на естествен език, машинния превод, биоинформатиката, проектирането на лекарства, медицинския анализ на изображения и други.Hu, J.; Niu, H.; Carrasco, J.; Lennox, B.; Arvin, F. (2020). "Voronoi-Based Multi-Robot Autonomous Exploration in Unknown Environments via Deep Reinforcement Learning". IEEE Transactions on Vehicular Technology. 69 (12): 14413 – 14423. doi:10.1109/TVT.2020.3034800. S2CID 228989788. iresan, D.; Meier, U.; Schmidhuber, J. (2012). "Multi-column deep neural networks for image classification". 2012 IEEE Conference on Computer Vision and Pattern Recognition. pp. 3642 – 3649. arXiv:1202.2745. doi:10.1109/cvpr.2012.6248110. ISBN 978-1-4673-1228-8. S2CID 2161592.Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffry (2012). "ImageNet Classification with Deep Convolutional Neural Networks" (PDF). NIPS 2012: Neural Information Processing Systems, Lake Tahoe, Nevada."Google's AlphaGo AI wins three-match series against the world's best Go player". TechCrunch.

Концепцията за изкуствените невронни мрежи произлиза от обработката на информация и разпределените комуникационни възли в биологичните системи. Те обаче са по-скоро статични и символични, докато биологичният мозък на повечето живи организми е динамичен (пластичен) и аналогов.Marblestone, Adam H.; Wayne, Greg; Kording, Konrad P. (2016). "Toward an Integration of Deep Learning and Neuroscience". Frontiers in Computational Neuroscience. 10: 94. arXiv:1606.03813. Bibcode:2016arXiv160603813M. doi:10.3389/fncom.2016.00094. PMC 5021692. PMID 27683554. S2CID 1994856Olshausen, B. A. (1996). "Emergence of simple-cell receptive field properties by learning a sparse code for natural images". Nature. 381 (6583): 607 – 609. Bibcode:1996Natur.381..607O. doi:10.1038/381607a0. PMID 8637596. S2CID 4358477Bengio, Yoshua; Lee, Dong-Hyun; Bornschein, Jorg; Mesnard, Thomas; Lin, Zhouhan (13 February 2015). "Towards Biologically Plausible Deep Learning". arXiv:1502.04156 [cs.LG].

Определение

Дълбокото обучение е клас алгоритми за машинно обучение,Deng, L.; Yu, D. (2014). "Deep Learning: Methods and Applications" (PDF). Foundations and Trends in Signal Processing. който използва множество слоеве за прогресивно извличане на функции от по-високо ниво от входа. Например при обработката на изображения по-ниските слоеве могат да идентифицират ръбове, докато по-високите слоеве могат да идентифицират понятията, свързани с човека, като цифри, букви или лица.

Общ преглед Повечето съвременни модели на дълбоко обучение се основават на изкуствени невронни мрежи, по-специално на конволюционни невронни мрежи.Bengio, Yoshua (2009). "Learning Deep Architectures for AI" (PDF). Foundations and Trends in Machine Learning. 2 (1): 1 – 127. CiteSeerX 10.1.1.701.9550. doi:10.1561/2200000006.

При задълбочено обучение всяко ниво се научава да трансформира своите входни данни в малко по-абстрактно и съставно представяне. В приложение за разпознаване на изображения входът може да бъде матрица от пиксели; първият представителен слой може да абстрахира пикселите и да кодира ръбове; вторият слой може да композира и кодира аранжименти на ръбове; третият слой може да кодира носа и очите; четвъртият слой може да разпознае, че изображението съдържа лице. Важното е, че при дълбокото обучение подходящите функции се разпределят автоматично между слоевете. Все пак това не премахва напълно необходимостта от ръчна настройка; например различен брой слоеве и размери на слоевете могат да осигурят различна степен на абстракция.Bengio, Y.; Courville, A.; Vincent, P. (2013). "Representation Learning: A Review and New Perspectives". IEEE Transactions on Pattern Analysis and Machine Intelligence. 35 (8): 1798–1828. arXiv:1206.5538. doi:10.1109/tpami.2013.50. PMID 23787338.LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (28 May 2015). "Deep learning". Nature. 521 (7553): 436–444. Bibcode:2015Natur.521..436L. doi:10.1038/nature14539. PMID 26017442. S2CID 3074096.

Думата „дълбоко“ в „дълбоко обучение“ се отнася до броя на слоевете, през които данните се трансформират.

Източници

Категория:Изкуствен интелект Категория:Нововъзникващи технологии