做垂直爬蟲用GO JAVA PYTHON哪個比較好?各有什么優(yōu)勢？這主要取決于你所熟悉的語言和你所熟悉的語言。這是最好的選擇。如果你需要學(xué)習(xí)新單詞，推薦python，crawler框架成熟，使用方便的

做垂直爬蟲用GO JAVA PYTHON哪個比較好?各有什么優(yōu)勢？

這主要取決于你所熟悉的語言和你所熟悉的語言。這是最好的選擇。如果你需要學(xué)習(xí)新單詞，推薦python，crawler框架成熟，使用方便的語言，是最常用的crawler語言

！爬蟲選擇什么工具？

1. Crawler是一個網(wǎng)絡(luò)蜘蛛機(jī)器人，它能自動地抓取數(shù)據(jù)并根據(jù)我們的規(guī)則獲取數(shù)據(jù)

2。為什么使用爬蟲？私人定制搜索引擎獲取更多數(shù)據(jù)的時代不再是互聯(lián)網(wǎng)時代，而是大數(shù)據(jù)時代

3。爬蟲的原理：控制節(jié)點(diǎn)（URL分配器）、爬蟲節(jié)點(diǎn)（根據(jù)算法抓取數(shù)據(jù)并存儲在數(shù)據(jù)庫中）、資源庫（存儲爬蟲數(shù)據(jù)庫提供搜索）。爬蟲的設(shè)計思想：爬蟲的網(wǎng)絡(luò)地址，通過HTTP協(xié)議得到相應(yīng)的HTML頁面

5。爬蟲語言選擇：

PHP:雖然被評為“世界上最好的語言”，但作為爬蟲的缺點(diǎn)：沒有多線程的概念，對異步的支持很少，并發(fā)性不足，爬蟲對效率的要求很高

C/C Java:python最大的競爭對手，它非常龐大和笨重。爬蟲需要經(jīng)常修改代碼

Python：語言優(yōu)美，代碼介紹，多方功能模塊，調(diào)用替代語言接口，成熟的高分布式策略

PYT Java]Java有很多解析器，非常支持網(wǎng)頁解析。缺點(diǎn)是有很多Java開源爬蟲，比如nutch，中國有優(yōu)秀的webmagicjava解析器，比如Htmlparser和jsoup，可以滿足Java和python的通用需求。如果需要模擬登陸和反采集，選擇python更方便。如果需要處理復(fù)雜的網(wǎng)頁，解析網(wǎng)頁內(nèi)容生成結(jié)構(gòu)化數(shù)據(jù)或精細(xì)解析網(wǎng)頁內(nèi)容，可以選擇Java。

寫爬蟲用什么語言好？

1. 爬行動物的經(jīng)濟(jì)價值是什么？只有在有經(jīng)濟(jì)價值的情況下，才有必要開發(fā)這種爬行動物。不幸的是，在今天的許多情況下，爬行動物并沒有太大的價值。僅：采用比價、數(shù)據(jù)統(tǒng)計、搜索引擎、信用爬蟲等有限的場合，這些場合基本被大公司壟斷?，F(xiàn)在很少有人寫爬行動物。

2. 寫爬行動物有多難？一天早上，就這樣。所以沒有什么困難。最多，設(shè)置useragent，設(shè)置refer，首先獲取cookie，設(shè)置延遲等等。從錢的角度看，估計值三四百元左右?；ㄙM(fèi)不多。

3. 爬行動物能活多久？長期以來，只要爬網(wǎng)系統(tǒng)不升級，就可以一直使用。換句話說，寫爬蟲半年是很常見的。這是很常見的，這意味著它不有趣，也沒有注意到

你可以先評估你的爬蟲是Io密集型還是CPU密集型。

IO密集型：程序?qū)⒋蟛糠謺r間用于等待IO，如網(wǎng)絡(luò)IO，即HTTP請求、磁盤IO，即文件讀寫等

CPU密集型：程序?qū)⒋蟛糠謺r間用于CPU計算，如文本處理、數(shù)值計算等

如果是IO密集型，然后您可以通過線程池或協(xié)程池來使用函數(shù)的這一部分來實(shí)現(xiàn)并發(fā)，從而提高了速度。

但是，這里的網(wǎng)絡(luò)IO有一個前提。你的帶寬不是你的爬蟲的瓶頸。

如果這是CPU密集型的，那么這部分工作可以通過進(jìn)程池（多進(jìn)程）并行處理，從而提高速度。多處理意味著你的機(jī)器是多核的。

不過，還是有一些地方值得優(yōu)化，比如一些庫的選擇，比如靚湯。雖然它非常方便，但是有更快的實(shí)現(xiàn)方法，比如selectolax，它要快得多。

如果你不能判斷，先多線程，然后多進(jìn)程。

如果單臺機(jī)器無法解決，請使用工作隊列，例如cell。多機(jī)并行，當(dāng)然可以提高速度，而且是橫向擴(kuò)展，當(dāng)然這也要讓你的任務(wù)可以分布。