初學(xué)者如何玩轉(zhuǎn)數(shù)據(jù)科學(xué)社區(qū)kaggle的競(jìng)賽？看看贏家的套路。你不必為第一名而戰(zhàn)。我不知道卡格爾的比賽最終變成了所有球隊(duì)的團(tuán)隊(duì)比賽。。。這種不擇手段、不計(jì)代價(jià)取得高分的方法在工業(yè)上行不通。如果我有足夠

初學(xué)者如何玩轉(zhuǎn)數(shù)據(jù)科學(xué)社區(qū)kaggle的競(jìng)賽？

看看贏家的套路。你不必為第一名而戰(zhàn)。我不知道卡格爾的比賽最終變成了所有球隊(duì)的團(tuán)隊(duì)比賽。。。這種不擇手段、不計(jì)代價(jià)取得高分的方法在工業(yè)上行不通。如果我有足夠的資源和時(shí)間運(yùn)行多個(gè)模型，為什么不運(yùn)行更多的數(shù)據(jù)并找到更多的特性呢？同樣的投資，回報(bào)更高。在大多數(shù)任務(wù)優(yōu)化特性的級(jí)別上，還不是組裝模型的時(shí)候。

人工智能這么火，數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)有什么區(qū)別？

工作之后，我知道的第一個(gè)概念是數(shù)據(jù)挖掘，而不是機(jī)器學(xué)習(xí)。因此，我認(rèn)為數(shù)據(jù)挖掘的概念比較廣泛，屬于工程應(yīng)用范疇。五年前，我們公司談?wù)摂?shù)據(jù)挖掘并舉辦了這樣的比賽。掌握了數(shù)據(jù)挖掘的應(yīng)用軟件和標(biāo)準(zhǔn)流程，如SAS、Clementine等數(shù)據(jù)挖掘平臺(tái)。這些平臺(tái)大多基于圖形化操作，應(yīng)用門(mén)檻較低。直到最近兩年，我們才開(kāi)始談?wù)摍C(jī)器學(xué)習(xí)、深度學(xué)習(xí)和人工智能。根據(jù)我的工作經(jīng)驗(yàn)，數(shù)據(jù)挖掘是一個(gè)流行的概念。所有的業(yè)務(wù)部門(mén)都知道這個(gè)概念，而機(jī)器學(xué)習(xí)屬于專業(yè)化?，F(xiàn)在業(yè)務(wù)部門(mén)仍然不知道什么是機(jī)器學(xué)習(xí)。事實(shí)上，很難嚴(yán)格區(qū)分兩者的關(guān)系。如果你看看最權(quán)威的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)教材，你會(huì)發(fā)現(xiàn)其中大部分都是重復(fù)的。因?yàn)樗麄兪莾蓚€(gè)名字，他們的重點(diǎn)應(yīng)該是不同的。我的理解是，數(shù)據(jù)挖掘的后端與機(jī)器學(xué)習(xí)的前端重復(fù)，機(jī)器學(xué)習(xí)的后端與深度學(xué)習(xí)的前端重復(fù)。數(shù)據(jù)挖掘的前端是數(shù)據(jù)的收集、清理和處理，與大數(shù)據(jù)相關(guān)，涉及到數(shù)據(jù)倉(cāng)庫(kù)，而機(jī)器學(xué)習(xí)并不關(guān)心這些。也就是說(shuō)，要為機(jī)器學(xué)習(xí)提前準(zhǔn)備好數(shù)據(jù)的原材料。機(jī)器學(xué)習(xí)更加關(guān)注學(xué)習(xí)問(wèn)題，努力學(xué)習(xí)知識(shí)，像人類(lèi)一樣理解世界。它們最大的區(qū)別在于：數(shù)據(jù)挖掘關(guān)注數(shù)據(jù)中的規(guī)則和知識(shí)，而不關(guān)心數(shù)據(jù)為什么產(chǎn)生這些規(guī)則和知識(shí)，也就是說(shuō)，你只看到表象，卻不知道本質(zhì)原因。相反，機(jī)器學(xué)習(xí)更關(guān)注學(xué)習(xí)數(shù)據(jù)的生成機(jī)制，即數(shù)據(jù)是從什么概率模型生成的。有時(shí)機(jī)器學(xué)習(xí)也被稱為統(tǒng)計(jì)學(xué)習(xí)，這就是原因。當(dāng)數(shù)據(jù)生成機(jī)制出現(xiàn)時(shí)，數(shù)據(jù)中的規(guī)則將被自然地知道。正是因?yàn)闄C(jī)器學(xué)習(xí)注重?cái)?shù)據(jù)生成機(jī)制的學(xué)習(xí)，產(chǎn)生了大量的研究?jī)?nèi)容，發(fā)展了核機(jī)器、極大似然估計(jì)、最大熵模型、最大后驗(yàn)估計(jì)、期望最大化算法、高斯過(guò)程、概率圖模型等，變分推理和其他工具。數(shù)據(jù)挖掘教科書(shū)通常沒(méi)有這些高級(jí)內(nèi)容。

傳統(tǒng)的機(jī)器學(xué)習(xí)一般對(duì)數(shù)據(jù)生成機(jī)制做一些先驗(yàn)假設(shè)，比如假設(shè)數(shù)據(jù)是高斯分布生成的，然后學(xué)習(xí)高斯分布的參數(shù)。此外，如果沒(méi)有這樣的假設(shè)，應(yīng)該怎么做？一般采用非參數(shù)密度估計(jì)技術(shù)，如核估計(jì)，最近流行的與深度學(xué)習(xí)相結(jié)合的方法，如生成對(duì)抗網(wǎng)絡(luò)（Gans），變分自編碼器等，因?yàn)樗惴üこ處煴乳_(kāi)發(fā)工程師更好：1。在技能方面，算法工程師可以做開(kāi)發(fā)，但是開(kāi)發(fā)工程師不能做算法。

2. 從專業(yè)角度看，算法工程師對(duì)數(shù)學(xué)能力的要求很高，而開(kāi)發(fā)工程師的編程水平很高。

3. 在工作需求方面，算法工程師需要?jiǎng)?chuàng)新，而開(kāi)發(fā)工程師需要編寫(xiě)代碼。

4. 就職業(yè)前景而言，算法工程師的前景要比開(kāi)發(fā)工程師廣闊得多。

目前，深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)、人工智能、python是企業(yè)招聘算法工程師的關(guān)鍵詞。

這里有一條建議：如果你是數(shù)學(xué)或計(jì)算機(jī)專業(yè)畢業(yè)的，改變算法和學(xué)習(xí)仍然為時(shí)已晚，明年你就不會(huì)著急了。