爬蟲技術(shù)可以爬取什么數(shù)據(jù)？簡而言之，爬蟲是一種探測機器。它的基本操作是模擬人類行為，在各種網(wǎng)站上漫步，點擊按鈕，查看數(shù)據(jù)，或者背誦你看到的信息。就像一只不知疲倦地在建筑物周圍爬行的蟲子。因此，爬蟲系統(tǒng)

爬蟲技術(shù)可以爬取什么數(shù)據(jù)？

簡而言之，爬蟲是一種探測機器。它的基本操作是模擬人類行為，在各種網(wǎng)站上漫步，點擊按鈕，查看數(shù)據(jù)，或者背誦你看到的信息。就像一只不知疲倦地在建筑物周圍爬行的蟲子。

因此，爬蟲系統(tǒng)有兩個功能：

爬蟲數(shù)據(jù)。例如，你想知道1000件商品在不同的電子商務(wù)網(wǎng)站上的價格，這樣你就可以得到最低的價格。手動打開一個頁面太慢，而且這些網(wǎng)站不斷更新價格。你可以使用爬蟲系統(tǒng)，設(shè)置邏輯，幫你從n個網(wǎng)站上抓取想要的商品價格，甚至同步比較計算，最后輸出一個報告給你，哪個網(wǎng)站最便宜。

市場上有許多0代碼免費的爬蟲系統(tǒng)。例如，為了抓取不同網(wǎng)站上兩個游戲虛擬項目之間的差異，我以前使用過它們，這非常簡單。這里沒有名字。有做廣告的嫌疑。

點擊爬蟲系統(tǒng)的按鈕類似12306票證軟件，通過n ID不斷訪問并觸發(fā)頁面動作。但是正規(guī)的好網(wǎng)站有反爬蟲技術(shù)，比如最常見的驗證碼。

最后，爬蟲系統(tǒng)無處不在。你最熟悉的爬蟲系統(tǒng)可能是百度。像百度這樣的搜索引擎爬蟲每隔幾天就會掃描一次整個網(wǎng)頁供你查看。

網(wǎng)上的公開非敏感個人信息能否收集，怎樣的爬蟲行為是合法的？

所謂的網(wǎng)絡(luò)爬蟲是一個程序和技術(shù)，自動捕捉互聯(lián)網(wǎng)信息根據(jù)一定的規(guī)則。通過爬蟲抓取互聯(lián)網(wǎng)公開信息并不違法，但抓取未公開、未經(jīng)授權(quán)的個人敏感信息屬于違法行為，違反了2017年6月1日實施的《網(wǎng)絡(luò)安全法》和“兩高”公司相關(guān)司法解釋。

中國銀行業(yè)法律研究會會長肖莎表示，機器人協(xié)議對于判斷爬行動物行為是否合法是不可或缺的。機器人協(xié)議已經(jīng)存在了25年，是互聯(lián)網(wǎng)搜索引擎和網(wǎng)頁持有者之間達成的“行業(yè)標(biāo)準(zhǔn)”。協(xié)議將告知網(wǎng)站的“訪問權(quán)”。如果機器人協(xié)議定了，大數(shù)據(jù)企業(yè)就要突破訪問權(quán)限，那么就有明顯的主觀性。

在互聯(lián)網(wǎng)行業(yè)，谷歌、百度、搜狗、易趣等都有這個協(xié)議，這是互聯(lián)網(wǎng)上幾乎每個人的常識。如果公司不想被爬網(wǎng)，它只需要簡單地放置robot協(xié)議，表明它不想被爬網(wǎng)和包括在內(nèi)。

“換句話說，如果沒有機器人，應(yīng)該理解為可以合法爬行的公共信息。”小薩說。

以上答案僅為作者個人觀點，與本報立場無關(guān)。