深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別？一張圖片顯示了這種關(guān)系。機(jī)器學(xué)習(xí)是人工智能的重要領(lǐng)域之一，而深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。深度學(xué)習(xí)之所以近年來流行起來，是因?yàn)樗黄屏藗鹘y(tǒng)機(jī)器學(xué)習(xí)無法解決的一些問題

深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別？

一張圖片顯示了這種關(guān)系。機(jī)器學(xué)習(xí)是人工智能的重要領(lǐng)域之一，而深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。深度學(xué)習(xí)之所以近年來流行起來，是因?yàn)樗黄屏藗鹘y(tǒng)機(jī)器學(xué)習(xí)無法解決的一些問題。

機(jī)器學(xué)習(xí)的意義在于代替人工完成重復(fù)性工作，識別出統(tǒng)一的規(guī)則（模式）。但是對于傳統(tǒng)的機(jī)器學(xué)習(xí)來說，特征提取的難度不?。ㄌ卣骺梢允窍袼亍⑽恢?、方向等）。特征的準(zhǔn)確性將在很大程度上決定大多數(shù)機(jī)器學(xué)習(xí)算法的性能。為了使特征準(zhǔn)確，在特征工程部分需要大量的人力來調(diào)整和改進(jìn)特征。完成這一系列工作的前提是，數(shù)據(jù)集中所包含的信息量是充分的，并且易于識別。如果不滿足這一前提，傳統(tǒng)的機(jī)器學(xué)習(xí)算法將在信息的雜亂中失去其性能。深度學(xué)習(xí)的應(yīng)用正是基于這個(gè)問題。它的深層神經(jīng)網(wǎng)絡(luò)使它能夠在雜波中學(xué)習(xí)，自動發(fā)現(xiàn)與任務(wù)相關(guān)的特征（可以看作是自發(fā)學(xué)習(xí)的特征工程），并提取高級特征，從而大大減少了特征工程部分任務(wù)所花費(fèi)的時(shí)間。

另一個(gè)明顯的區(qū)別是他們對數(shù)據(jù)集大小的偏好。傳統(tǒng)的機(jī)器學(xué)習(xí)在處理規(guī)則完備的小規(guī)模數(shù)據(jù)時(shí)表現(xiàn)出良好的性能，而深度學(xué)習(xí)則表現(xiàn)不好。隨著數(shù)據(jù)集規(guī)模的不斷擴(kuò)大，深度學(xué)習(xí)的效果會逐漸顯現(xiàn)出來，并變得越來越好。對比如下圖所示。

多層感知器，為什么能實(shí)現(xiàn)非線性？

由于增加了激活函數(shù)，如果激活函數(shù)是非線性的，則可以實(shí)現(xiàn)非線性。這個(gè)原則很簡單。你可以試著用非線性函數(shù)來設(shè)置一個(gè)線性函數(shù)來運(yùn)算，結(jié)果一定是非線性的。

然而，多層感知器網(wǎng)絡(luò)不一定具有激活函數(shù)，并且激活函數(shù)不一定是非線性的。該方法可人為設(shè)定，僅利用非線性激活函數(shù)加隨機(jī)權(quán)初值，是理論和實(shí)踐驗(yàn)證的最佳方法。

深度學(xué)習(xí)結(jié)構(gòu)及其算法和早已提出的多層感知器及其反向傳播算法有哪些本質(zhì)區(qū)別？

讓我談?wù)勎覀€(gè)人的理解。深度學(xué)習(xí)只是一個(gè)泛稱，包括DNN、CNN等。就DNN而言，目前的改進(jìn)在于多層稀疏自編碼的特征提取、初始權(quán)值的分層優(yōu)化，有效地避免了簡單bp算法的權(quán)值耗散，以及初始權(quán)值隨機(jī)性容易導(dǎo)致陷入局部最優(yōu)解的問題。此外，由于數(shù)據(jù)量的空前龐大和計(jì)算能力的空前提高，DNN在質(zhì)量上得到了很大的提高。CNN卷積神經(jīng)網(wǎng)絡(luò)主要用于圖像處理，但目前也逐漸應(yīng)用于其他領(lǐng)域，如交通需求預(yù)測、信號分析等。本質(zhì)上，由于多層卷積層和池化層的存在，也屬于深度學(xué)習(xí)。這是一項(xiàng)新發(fā)明。