logistic回歸梯度下降法 深度學(xué)習(xí)最終會淘汰掉其他所有機器學(xué)習(xí)算法嗎？
深度學(xué)習(xí)最終會淘汰掉其他所有機器學(xué)習(xí)算法嗎？謝謝。我可以確切地說，不！也許首先，為什么深度學(xué)習(xí)被稱為“深度”？從當(dāng)前技術(shù)的角度來看，深度學(xué)習(xí)結(jié)合底層特征，形成更抽象的屬性類別或特征的高層表示，從而發(fā)現(xiàn)
深度學(xué)習(xí)最終會淘汰掉其他所有機器學(xué)習(xí)算法嗎？
謝謝。我可以確切地說，不！也許首先，為什么深度學(xué)習(xí)被稱為“深度”？從當(dāng)前技術(shù)的角度來看，深度學(xué)習(xí)結(jié)合底層特征，形成更抽象的屬性類別或特征的高層表示，從而發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。
深度學(xué)習(xí)屬于前者，它有很多參數(shù)需要調(diào)整，是一個非常大的參數(shù)模型。一般的機器學(xué)習(xí)模型屬于后者，它需要強大的特征來分離數(shù)據(jù)，最終得到不同的類別。
一般來說，目前深度學(xué)習(xí)確實有很多優(yōu)勢。例如，對我來說，這是非常簡單和暴力的。它不需要很長時間來調(diào)整參數(shù)，清理數(shù)據(jù)，并把它扔進去看看結(jié)果。如果不好，調(diào)整參數(shù)繼續(xù)嘗試。一般的機器學(xué)習(xí)模型不是這樣的。它需要大量的特征工程。但是，深度學(xué)習(xí)有一個問題，到目前為止還沒有解決的工程。它是一個可解釋性差的“黑匣子”，導(dǎo)致系統(tǒng)出現(xiàn)錯誤，無法快速找出原因或追溯以前的錯誤。所以在工程中，我們實際上更喜歡特征少的工程和解釋性強的模型來獲得更好的結(jié)果。我們期待著深學(xué)在未來科學(xué)技術(shù)的進一步發(fā)展。
我將在這里發(fā)表所有關(guān)于算法、機器學(xué)習(xí)和深度學(xué)習(xí)的有趣文章。
（碼字不容易，如果本文能幫到你，請喜歡）
1行業(yè)中的大型模型基本上都是邏輯和線性表達式，所以了解SGD和lbfgs非常重要，并行推導(dǎo)非常重要，了解LR是如何并行的
2其次，有常用的機器學(xué)習(xí)算法，如SVM、gbdt、KNN等，可以了解原理，并能在壓力下快速響應(yīng)。算法的優(yōu)缺點和適應(yīng)場景應(yīng)基本清晰
3基本算法數(shù)據(jù)結(jié)構(gòu)應(yīng)熟練，鏈表二叉樹，快速行合并，動態(tài)返回等
主要有線性代數(shù)和概率論。
現(xiàn)在最流行的機器學(xué)習(xí)模型，神經(jīng)網(wǎng)絡(luò)基本上有很多向量、矩陣、張量。從激活函數(shù)到損失函數(shù)，從反向傳播到梯度下降，都是對這些向量、矩陣和張量的運算和操作。
其他“傳統(tǒng)”機器學(xué)習(xí)算法也使用大量線性代數(shù)。例如，線性回歸與線性代數(shù)密切相關(guān)。
從線性代數(shù)的觀點來看，主成分分析是對協(xié)方差矩陣進行對角化。
尤其是當(dāng)你讀論文或想更深入的時候，概率論的知識是非常有用的。
它包括邊緣概率、鏈式規(guī)則、期望、貝葉斯推理、最大似然、最大后驗概率、自信息、香農(nóng)熵、KL散度等。
神經(jīng)網(wǎng)絡(luò)非常講究“可微性”，因為可微模型可以用梯度下降法優(yōu)化。梯度下降和導(dǎo)數(shù)是分不開的。所以多元微積分也需要。另外，由于機器學(xué)習(xí)是以統(tǒng)計方法為基礎(chǔ)的，因此統(tǒng)計知識是必不可少的。但是，大多數(shù)理工科專業(yè)學(xué)生都應(yīng)該學(xué)過這兩部分內(nèi)容，所以這可能不屬于需要補充的內(nèi)容。