梯度下降法和隨機(jī)梯度下降法的區(qū)別？梯度下降算法是一個(gè)寬泛的概念，意思是：當(dāng)你優(yōu)化一個(gè)函數(shù)/分類(lèi)器時(shí)，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？

梯度下降法和隨機(jī)梯度下降法的區(qū)別？

梯度下降算法是一個(gè)寬泛的概念，意思是：當(dāng)你優(yōu)化一個(gè)函數(shù)/分類(lèi)器時(shí)，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機(jī)的。因此，梯度下降算法包括隨機(jī)梯度下降算法。

算法的核心是什么，數(shù)學(xué)就是算法嗎？

我認(rèn)為這種理解并不全面。首先，算法的核心是如何利用抽象的數(shù)學(xué)模型來(lái)解決這個(gè)實(shí)際問(wèn)題，而實(shí)現(xiàn)的手段是通過(guò)代碼編程，所以算法的核心是數(shù)學(xué)，基本上是精確的。但是說(shuō)數(shù)學(xué)是一種算法是一個(gè)大問(wèn)題。數(shù)學(xué)涉及面很廣。它是一個(gè)自洽系統(tǒng)。隨著人類(lèi)認(rèn)識(shí)水平的提高，數(shù)學(xué)也在不斷發(fā)展，許多新的數(shù)學(xué)工具被開(kāi)發(fā)出來(lái)幫助我們解決實(shí)際問(wèn)題。

因此，如果數(shù)學(xué)是它背后的真理理論，那么算法就是用部分真理來(lái)幫助我們解決一些具體問(wèn)題。這是我的理解。