BP算法 多層感知器,為什么能實現(xiàn)非線性?
多層感知器,為什么能實現(xiàn)非線性?由于增加了激活函數(shù),如果激活函數(shù)是非線性的,則可以實現(xiàn)非線性。這個原則很簡單。你可以試著用非線性函數(shù)來設(shè)置一個線性函數(shù)來運算,結(jié)果一定是非線性的。然而,多層感知器網(wǎng)絡(luò)不
多層感知器,為什么能實現(xiàn)非線性?
由于增加了激活函數(shù),如果激活函數(shù)是非線性的,則可以實現(xiàn)非線性。這個原則很簡單。你可以試著用非線性函數(shù)來設(shè)置一個線性函數(shù)來運算,結(jié)果一定是非線性的。
然而,多層感知器網(wǎng)絡(luò)不一定具有激活函數(shù),并且激活函數(shù)不一定是非線性的。該方法可人為設(shè)定,僅利用非線性激活函數(shù)加隨機(jī)權(quán)初值,是理論和實踐驗證的最佳方法。