快捷導(dǎo)航

python爬蟲 urllib模塊發(fā)起post請(qǐng)求過程解析

更新時(shí)間：2019年08月20日 11:17:55 作者：minger_lcm

這篇文章主要介紹了python爬蟲 urllib模塊發(fā)起post請(qǐng)求過程解析,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下

urllib模塊發(fā)起的POST請(qǐng)求

案例：爬取百度翻譯的翻譯結(jié)果

1.通過瀏覽器捉包工具，找到POST請(qǐng)求的url

針對(duì)ajax頁面請(qǐng)求的所對(duì)應(yīng)url獲取，需要用到瀏覽器的捉包工具。查看百度翻譯針對(duì)某個(gè)字條發(fā)送ajax請(qǐng)求，所對(duì)應(yīng)的url

點(diǎn)擊clear按鈕可以把抓包工具，所抓到請(qǐng)求清空

然后填上翻譯字條發(fā)送ajax請(qǐng)求，紅色框住的都是發(fā)送的ajax請(qǐng)求

抓包工具All按鈕代表顯示抓到的所有請(qǐng)求，包括GET、POST請(qǐng)求、基于ajax的POST請(qǐng)求
XHR代表只顯示抓到的基于ajax的POST請(qǐng)求

哪個(gè)才是我們所要的基于ajax的POST請(qǐng)求，這個(gè)POST請(qǐng)求是攜帶翻譯字條的蘋果請(qǐng)求參數(shù)

再看看這個(gè)POST請(qǐng)求對(duì)應(yīng)的請(qǐng)求URL ，這個(gè)URL是我們要請(qǐng)求的URL

發(fā)起POST請(qǐng)求之前，要處理POST請(qǐng)求攜帶的參數(shù) 3步流程:

一、將POST請(qǐng)求封裝到字典

二、使用parse模塊中的urlencode(返回值類型是字符串類型)進(jìn)行編碼處理

三、將步驟二的編碼結(jié)果轉(zhuǎn)換成byte類型

import urllib.request
import urllib.parse
# 1.指定url
url = 'https://fanyi.baidu.com/sug'
# 發(fā)起POST請(qǐng)求之前，要處理POST請(qǐng)求攜帶的參數(shù) 流程:
# 一、將POST請(qǐng)求封裝到字典
data = {
  # 將POST請(qǐng)求所有攜帶參數(shù)放到字典中
  'kw':'蘋果',
}
# 二、使用parse模塊中的urlencode(返回值類型是字符串類型)進(jìn)行編碼處理
data = urllib.parse.urlencode(data)

# 三、將步驟二的編碼結(jié)果轉(zhuǎn)換成byte類型
data = data.encode()

'''2. 發(fā)起POST請(qǐng)求:urlopen函數(shù)的data參數(shù)表示的就是經(jīng)過處理之后的
POST請(qǐng)求攜帶的參數(shù)
'''
response = urllib.request.urlopen(url=url,data=data)

data = response.read()
print(data)

把拿到的翻譯結(jié)果去json在線格式校驗(yàn)(在線JSON校驗(yàn)格式化工具(Be JSON)),

點(diǎn)擊格式化校驗(yàn)和unicode轉(zhuǎn)中文