機(jī)器學(xué)習(xí)的嶺回歸除了正規(guī)方程還可以用梯度下降求解嗎？首先，我可以肯定地告訴你！但也許問題會出現(xiàn)。在機(jī)器學(xué)習(xí)算法中，很多算法采用梯度下降法。梯度下降法似乎是機(jī)器學(xué)習(xí)算法中一種通用的優(yōu)化算法。為什么不用呢

機(jī)器學(xué)習(xí)的嶺回歸除了正規(guī)方程還可以用梯度下降求解嗎？

首先，我可以肯定地告訴你！但也許問題會出現(xiàn)。在機(jī)器學(xué)習(xí)算法中，很多算法采用梯度下降法。梯度下降法似乎是機(jī)器學(xué)習(xí)算法中一種通用的優(yōu)化算法。為什么不用呢？

其實正是因為梯度下降算法是一種通用的優(yōu)化算法，所以它有自己的缺點(diǎn)，否則就沒有其他算法存在的理由。那么梯度下降算法的缺點(diǎn)是什么呢？也就是說，它的效率相對較低，求解速度相對較慢。其求解速度和收斂性取決于步長參數(shù)的合理設(shè)計。如果步長太小，算法需要迭代太多次才能收斂；如果步長太大，算法可能無法在最優(yōu)解附近收斂。

因此，一般選擇梯度下降作為機(jī)器學(xué)習(xí)算法的優(yōu)化方法，因為機(jī)器學(xué)習(xí)算法的目標(biāo)函數(shù)不容易求解：要么目標(biāo)函數(shù)不凸，要么目標(biāo)函數(shù)沒有解析解。

嶺回歸是一種非常簡單的算法，它可以用正態(tài)方程直接求解模型的最優(yōu)參數(shù)，而不用用梯度下降法來慢慢迭代求解。因此，梯度下降算法可以用來求解嶺回歸，但由于嶺回歸比較簡單，且其目標(biāo)函數(shù)有解析解，所以沒有使用梯度下降算法。在這種情況下，梯度下降算法的速度不如常規(guī)方程。

邏輯回歸為何不直接讓梯度等于0？

在機(jī)器學(xué)習(xí)的第一課中，沒有邏輯回歸的解析解（至少目前還沒有找到，只有在二進(jìn)制類的情況下，更不用說神經(jīng)網(wǎng)絡(luò)了）。

即使有解析解，KKT條件也只是優(yōu)化非凸函數(shù)的必要條件和不充分條件，因為在大多數(shù)情況下，神經(jīng)網(wǎng)絡(luò)的損失函數(shù)是非凸的。

[1]利波維茨基，斯坦。“分類預(yù)測二元logit回歸的解析閉式解。”應(yīng)用統(tǒng)計學(xué)雜志42.1（2015）：37-49。（分類預(yù)測的二元logit回歸的解析閉式解）

父母都是研究生，兒子整天班級墊底。這是遺傳突變還是均值回歸？

這與基因無關(guān)。這主要是優(yōu)越的條件，過度的青睞和缺乏指導(dǎo)的結(jié)果

上交所再發(fā)新規(guī)支持紅籌股回歸，對股市有何影響？利好哪些板塊？

上海證券交易所發(fā)布的新規(guī)支持中國資本回歸科技創(chuàng)新板上市

！事實上，這對市場是個好消息，對中概股也是個好消息。一方面，中概股的回歸可以帶動眾多場外基金跟進(jìn)。

另一方面，如果好的企業(yè)能夠在a股繼續(xù)上漲，也會對a股的自我完善產(chǎn)生積極的影響。

因此，從長遠(yuǎn)來看，它對市場有積極的影響。

但短期會被理解為好壞，完全取決于投資者的情緒、心態(tài)，以及市場周期

！讓我來談?wù)勔粋€現(xiàn)象。

在熊市中，正面會縮小，負(fù)面會放大。因此，如果這類消息處于熊市周期，則可能被視為抽水，導(dǎo)致下跌。

但在牛市周期？好消息會被放大，壞消息會減少。因此，這樣的新聞會產(chǎn)生更多積極的情緒。不會有抽水的感覺，也不會誤讀信息的本質(zhì)。

關(guān)注張大仙，投資不輸！如果你認(rèn)為這個答案有幫助，請記住支持它。