手機模擬電腦瀏覽器 python怎么偽裝成瀏覽器訪問網(wǎng)站?
python怎么偽裝成瀏覽器訪問網(wǎng)站?求教python可以模擬瀏覽器行為執(zhí)行js的庫?普通爬蟲或web庫(例如,scrpy/urllib/requests)無法實現(xiàn)這樣的功能,因為它們所做的與使用th
python怎么偽裝成瀏覽器訪問網(wǎng)站?
求教python可以模擬瀏覽器行為執(zhí)行js的庫?
普通爬蟲或web庫(例如,scrpy/urllib/requests)無法實現(xiàn)這樣的功能,因為它們所做的與使用thunderbolt之類的下載工具下載web文本沒有什么不同。為了實現(xiàn)對后續(xù)網(wǎng)頁的訪問,通常有兩種解決方案。
1. 自動控制瀏覽器訪問。這里的瀏覽器可以是普通瀏覽器,也可以是資源較少的無窗口瀏覽器,主要是因為瀏覽器有解析JS腳本的功能,可以跳轉(zhuǎn)。一般來說,實現(xiàn)方案是使用selenium防火墻或selenium phantomjs。許多教程可以在網(wǎng)上找到。它的使用相對簡單,但占用更多的資源。
2. 截獲請求或反向獲取網(wǎng)站前端代碼,找到請求鏈接和格式從服務(wù)器獲取試卷代碼,并模擬獲取試卷。