檢測python爬蟲時是否代理ip偽裝成功的方法
更新時間:2019年07月12日 08:29:46 作者:千鋒Python唐唐君
這篇文章主要介紹了檢測python爬蟲時是否代理ip偽裝成功的方法以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。,需要的朋友可以參考下
有時候我們的爬蟲程序添加了代理,但是我們不知道程序是否獲取到了ip,尤其是動態(tài)轉(zhuǎn)發(fā)模式的,這時候就需要進行檢測了,以下是一種代理是否偽裝成功的檢測方式,這里推介使用億牛云提供的代碼示例。
Python¶
requests
#! -*- encoding:utf-8 -*-
import requests
import random
# 要訪問的目標頁面
targetUrl = "http://httpbin.org/ip"
# 要訪問的目標HTTPS頁面
# targetUrl = "https://httpbin.org/ip"
# 代理服務(wù)器
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理隧道驗證信息
proxyUser = "16ZKBRLB"
proxyPass = "234076"
proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
"host" : proxyHost,
"port" : proxyPort,
"user" : proxyUser,
"pass" : proxyPass,
}
# 設(shè)置 http和https訪問都是用HTTP代理
proxies = {
"http" : proxyMeta,
"https" : proxyMeta,
}
# 設(shè)置IP切換頭
tunnel = random.randint(1,10000)
headers = {"Proxy-Tunnel": str(tunnel)}
resp = requests.get(targetUrl, proxies=proxies, headers=headers)
print resp.status_code
print resp.text
要檢測代理是否獲取到,直接在配置代理后訪http://httpbin.org/ip網(wǎng)站,獲取到ip后再訪問www.ip138.com就知道是否獲取到了ip。
相關(guān)文章
python pymysql peewee關(guān)于時區(qū)問題分析
這篇文章主要為大家介紹了python pymysql peewee關(guān)于時區(qū)問題分析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-06-06

