python爬蟲快速響應(yīng)服務(wù)器的做法
不論是打開網(wǎng)頁或者爬取一些資料的時候，我們想要的是計算機能在最短的時間內(nèi)運行出結(jié)果，不然等待的時間過長會影響下一步工作的計劃。這時候我們可以給計算機一個指令，限制最久能等待的時間，在我們能接受的時間內(nèi)運行出結(jié)果。那么這個指令方法是什么呢？接下來我們一起看看吧。
requests之所以稱為“HTTP for human”，因為其封裝層次很高，其中一處體現(xiàn)就在：requests會自動處理服務(wù)器響應(yīng)的重定向。我在做搜狗微信公眾號抓取的時候，搜狗搜索列表頁面的公眾號文章地址，其實不是微信的地址而需要請求到搜狗到服務(wù)器做重定向，而requests的默認處理則是將整個過程全部搞定，對此可以這樣：
In [1]: r = requests.get('http://xlzd.me', allow_redirects=False)
allow_redirects參數(shù)為False則表示不會主動重定向。
另外，有時候?qū)Ψ骄W(wǎng)站的響應(yīng)時間太長了，我們希望在指定時間內(nèi)完事，或者直接停止這個請求，這時候的做法是：
In [1]: r = requests.get('http://xlzd.me', timeout＝3)
timeout表示這次請求最長我最長只等待多少秒
拓展：
為requests套上一層代理的做法也非常簡單：
import requests
proxies = {
"http": "http://192.168.31.1:3128",
"https": "http://10.10.1.10:1080",
}
requests.get("http://xlzd.me", proxies=proxies)
到此這篇關(guān)于python爬蟲快速響應(yīng)服務(wù)器的做法的文章就介紹到這了,更多相關(guān)python爬蟲中如何快速響應(yīng)服務(wù)器內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
這篇文章主要介紹了詳解Python 裝飾器執(zhí)行順序迷思，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-08-08
詳解Python中的分支和循環(huán)結(jié)構(gòu)
這篇文章主要介紹了Python中的分支和循環(huán)結(jié)構(gòu)，本文通過實例代碼給大家介紹的非常詳細，具有一定的參考借鑒價值,需要的朋友可以參考下2020-02-02
pytest解讀fixture有效性及跨文件共享fixtures
這篇文章主要為大家介紹了pytest官方文檔fixture有效性及跨文件共享fixtures的解讀，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-06-06
pyecharts是支持python的一種可視化，那么在Django中Pyecharts如何生成圖表，主要有兩種方法，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-05-05
Python自然語言處理使用spaCy庫進行文本預(yù)處理
這篇文章主要為大家介紹了Python自然語言處理使用spaCy庫進行文本預(yù)處理，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-05-05
PyQt5 是Digia的一套Qt5應(yīng)用框架與python的結(jié)合，同時支持2.x和3.x。這篇文章給大家整理了關(guān)于Python PyQt5的相關(guān)知識，感興趣的朋友一起看看吧2020-04-04
這篇文章主要介紹了如何通過Python制作一個簡易的音樂播放器，文中的示例代碼講解詳細，對我們學(xué)習(xí)或工作有一定價值，需要的可以參考一下2022-02-02
urllib2是Python的一個獲取URLs(Uniform Resource Locators)的組件。他以urlopen函數(shù)的形式提供了一個非常簡單的接口，下面我們用實例講解他的使用方法2014-11-11
OpenCV+face++實現(xiàn)實時人臉識別解鎖功能
這篇文章主要為大家詳細介紹了OpenCV+face++實現(xiàn)實時人臉識別解鎖功能，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-08-08
python 刪除字符串中連續(xù)多個空格并保留一個的方法
今天小編就為大家分享一篇python 刪除字符串中連續(xù)多個空格并保留一個的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12