最小二乘法和梯度下降法有哪些區(qū)別？我也在學(xué)習(xí)機(jī)器學(xué)習(xí)。我想出了一個(gè)簡(jiǎn)單的解釋。我不知道這是否正確。數(shù)學(xué)考試前，如果是選擇題，有兩種解題方法，一種是用公式正常解。一種機(jī)會(huì)主義，有選擇的嘗試，被稱為法律。

最小二乘法和梯度下降法有哪些區(qū)別？

我也在學(xué)習(xí)機(jī)器學(xué)習(xí)。我想出了一個(gè)簡(jiǎn)單的解釋。我不知道這是否正確。

數(shù)學(xué)考試前，如果是選擇題，有兩種解題方法，一種是用公式正常解。一種機(jī)會(huì)主義，有選擇的嘗試，被稱為法律。

最小二乘法是正解。梯度下降是引入的方法。

梯度下降法和隨機(jī)梯度下降法的區(qū)別？

梯度下降算法是一個(gè)寬泛的概念，意思是：當(dāng)你優(yōu)化一個(gè)函數(shù)/分類器時(shí)，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機(jī)的。因此，梯度下降算法包括隨機(jī)梯度下降算法。