深度神經(jīng)網(wǎng)絡(luò)原理 深度學(xué)習(xí)和普通的機器學(xué)習(xí)有什么區(qū)別?
深度學(xué)習(xí)和普通的機器學(xué)習(xí)有什么區(qū)別?一張圖片顯示了這種關(guān)系。機器學(xué)習(xí)是人工智能的重要領(lǐng)域之一,而深度學(xué)習(xí)是機器學(xué)習(xí)的一個分支。深度學(xué)習(xí)之所以近年來流行起來,是因為它突破了傳統(tǒng)機器學(xué)習(xí)無法解決的一些問題
深度學(xué)習(xí)和普通的機器學(xué)習(xí)有什么區(qū)別?
一張圖片顯示了這種關(guān)系。機器學(xué)習(xí)是人工智能的重要領(lǐng)域之一,而深度學(xué)習(xí)是機器學(xué)習(xí)的一個分支。深度學(xué)習(xí)之所以近年來流行起來,是因為它突破了傳統(tǒng)機器學(xué)習(xí)無法解決的一些問題。
機器學(xué)習(xí)的意義在于代替人工完成重復(fù)性工作,識別出統(tǒng)一的規(guī)則(模式)。但是對于傳統(tǒng)的機器學(xué)習(xí)來說,特征提取的難度不?。ㄌ卣骺梢允窍袼?、位置、方向等)。特征的準(zhǔn)確性將在很大程度上決定大多數(shù)機器學(xué)習(xí)算法的性能。為了使特征準(zhǔn)確,在特征工程部分需要大量的人力來調(diào)整和改進特征。完成這一系列工作的前提是,數(shù)據(jù)集中所包含的信息量是充分的,并且易于識別。如果不滿足這一前提,傳統(tǒng)的機器學(xué)習(xí)算法將在信息的雜亂中失去其性能。深度學(xué)習(xí)的應(yīng)用正是基于這個問題。它的深層神經(jīng)網(wǎng)絡(luò)使它能夠在雜波中學(xué)習(xí),自動發(fā)現(xiàn)與任務(wù)相關(guān)的特征(可以看作是自發(fā)學(xué)習(xí)的特征工程),并提取高級特征,從而大大減少了特征工程部分任務(wù)所花費的時間。
另一個明顯的區(qū)別是他們對數(shù)據(jù)集大小的偏好。傳統(tǒng)的機器學(xué)習(xí)在處理規(guī)則完備的小規(guī)模數(shù)據(jù)時表現(xiàn)出良好的性能,而深度學(xué)習(xí)則表現(xiàn)不好。隨著數(shù)據(jù)集規(guī)模的不斷擴大,深度學(xué)習(xí)的效果會逐漸顯現(xiàn)出來,并變得越來越好。對比如下圖所示。
是否存在通用的神經(jīng)網(wǎng)絡(luò)模型,可以處理圖像,語音以及NLP?
對于目前的深度學(xué)習(xí)模型,雖然深度學(xué)習(xí)的目標(biāo)之一是設(shè)計能夠處理各種任務(wù)的算法,但是深度學(xué)習(xí)的應(yīng)用還需要一定的專業(yè)化,目前還沒有通用的神經(jīng)網(wǎng)絡(luò)處理模型。然而,每一種模式也在相互學(xué)習(xí)、相互融合、共同提高。例如,一些創(chuàng)新可以同時改進卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò),如批量標(biāo)準(zhǔn)化和關(guān)注度。一般模型需要在將來提出。
圖像和視頻處理,計算機視覺,最流行的是CNN,卷積神經(jīng)網(wǎng)絡(luò),它的變形和發(fā)展,CNN適合處理空間數(shù)據(jù),廣泛應(yīng)用于計算機視覺領(lǐng)域。例如,alexnet、vggnet、googlenet、RESNET等都有自己的特點。將上述模型應(yīng)用于圖像分類識別中。在圖像分割、目標(biāo)檢測等方面,提出了更有針對性的模型,并得到了廣泛的應(yīng)用。
語音處理,2012年之前,最先進的語音識別系統(tǒng)是隱馬爾可夫模型(HMM)和高斯混合模型(GMM)的結(jié)合。目前最流行的是深度學(xué)習(xí)RNN遞歸神經(jīng)網(wǎng)絡(luò),其長、短期記憶網(wǎng)絡(luò)LSTM、Gru、雙向RNN、層次RNN等。
除了傳統(tǒng)的自然語言處理方法外,目前的自然語言處理深度學(xué)習(xí)模型也經(jīng)歷了幾個發(fā)展階段,如基于CNN的模型、基于RNN的模型、基于注意的模型、基于變壓器的模型等。不同的任務(wù)場景有不同的模型和策略來解決一些問題。
深度學(xué)習(xí)的預(yù)測模型有哪些?
深度學(xué)習(xí)模型很常見:卷積神經(jīng)網(wǎng)絡(luò)CNN、堆疊式自動編碼器SAE、遞歸神經(jīng)網(wǎng)絡(luò)DNN、生成對抗網(wǎng)絡(luò)Gan、深度信念網(wǎng)絡(luò)DBN、深度神經(jīng)網(wǎng)絡(luò)DNN、深度強化學(xué)習(xí)DRL以及模型的許多變體。
深度學(xué)習(xí)中沒有預(yù)測模型,只是那些模型是一個預(yù)測問題。GDP預(yù)測是一個連續(xù)的問題。我覺得CNN、DBN和DNN不合適。如果數(shù)據(jù)量有限,參考互聯(lián)網(wǎng)金融,我覺得遷移學(xué)習(xí)深度學(xué)習(xí)模式是一個不錯的選擇。個人觀點,僅供參考,更多官方賬號可關(guān)注個人微信公眾號“深度學(xué)習(xí)與NLP”。