python爬蟲用request庫(kù)處理cookie的實(shí)例講解
python爬蟲中使用urli庫(kù)可以使用opener"發(fā)送多個(gè)請(qǐng)求，這些請(qǐng)求是能共享處理cookie的，小編之前也提過(guò)python爬蟲中使用request庫(kù)會(huì)比urllib庫(kù)更加⽅便，使用使用requests也能達(dá)到共享cookie的目的，即使用request庫(kù)get方法和使用requests庫(kù)提供的session對(duì)象都可以處理。
方法一：使用request庫(kù)get方法
resp = requests.get('http://www.baidu.com/')
print(resp.cookies)
print(resp.cookies.get_dict())
方法二：使用requests庫(kù)提供的 session對(duì)象
import requests
url = "http://www.renren.com/PLogin.do"
data = {"email":"970138074@qq.com",'password':"pythonspider"}
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登錄
session = requests.session() session.post(url,data=data,headers=headers)
#訪問(wèn)
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```
知識(shí)點(diǎn)擴(kuò)展：
我們知道了requests中的session對(duì)象能夠在請(qǐng)求之間保持cookie，它極大地方便了我們?nèi)ナ褂胏ookie。當(dāng)我們想設(shè)置方法級(jí)別中的請(qǐng)求時(shí)，可以如下面示例一樣操作。
import requests s = requests.session() # 第一步：發(fā)送一個(gè)請(qǐng)求，用于設(shè)置請(qǐng)求中的cookies cookies = dict(cookies_are='cookie1') # tips: http://httpbin.org能夠用于測(cè)試http請(qǐng)求和響應(yīng) r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r1.text) # 第二步：發(fā)送一個(gè)請(qǐng)求，用于再次設(shè)置請(qǐng)求中的cookies cookies = dict(cookies_are='cookie2') r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r2.text)
運(yùn)行后
# r1.text
{
"cookies": {
"cookies_are": "cookie1"
}
}
# t2.text
{
"cookies": {
"cookies_are": "cookie2"
}
}
到此這篇關(guān)于python爬蟲用request庫(kù)處理cookie的實(shí)例講解的文章就介紹到這了,更多相關(guān)python爬蟲如何使用request庫(kù)處理cookie內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
Pandas 中的join函數(shù)應(yīng)用實(shí)現(xiàn)刪除多余的空行
這篇文章主要介紹了Pandas 中的join函數(shù)應(yīng)用實(shí)現(xiàn)刪除多余的空行，str.join也就是sequence要連接的元素序列，下面我們來(lái)看看他的作用實(shí)現(xiàn)刪除多余的空行，需要的小伙伴可以參考一下2022-02-02
解決Keyerror ''''acc'''' KeyError: ''''val_acc''''問(wèn)題
這篇文章主要介紹了解決Keyerror 'acc' KeyError: 'val_acc'問(wèn)題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-06-06
Python djanjo之csrf防跨站攻擊實(shí)驗(yàn)過(guò)程
csrf攻擊，即cross site request forgery跨站(域名)請(qǐng)求偽造，這里的forgery就是偽造的意思。這篇文章主要給大家介紹了關(guān)于Python djanjo之csrf防跨站攻擊的相關(guān)資料,需要的朋友可以參考下2021-05-05
馬上就到畢業(yè)季了，你心中的那個(gè)學(xué)姐，你真的放下了嗎？本文將用pygame為你的學(xué)姐，定制開(kāi)發(fā)一個(gè)拼圖游戲，感興趣的快跟隨小編一起學(xué)習(xí)一下2022-02-02
這篇文章主要介紹了python set集合使用方法解析,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-11-11
Python?SQLAlchemy插入日期時(shí)間時(shí)區(qū)詳解
SQLAlchemy是一個(gè)功能強(qiáng)大且流行的?Python?庫(kù),它提供了一種靈活有效的與數(shù)據(jù)庫(kù)交互的方式,在本文中,我們將了解SQLAlchemy如何更新日期、時(shí)間和時(shí)區(qū)并將其插入數(shù)據(jù)庫(kù),感興趣的可以了解下2023-09-09
2022虎年新年即將來(lái)臨，小編為大家?guī)?lái)了一個(gè)利用Python編寫的虎年煙花特效，文中的示例代碼簡(jiǎn)潔易懂，感興趣的同學(xué)可以動(dòng)手試一試2022-01-01
在本篇文章里小編給大家整理的是一篇關(guān)于python re模塊常見(jiàn)用法例舉內(nèi)容，有興趣的朋友們可以學(xué)習(xí)下。2021-03-03
Python中三元運(yùn)算符的簡(jiǎn)潔性及多用途實(shí)例探究
這篇文章主要為大家介紹了Python中三元運(yùn)算符的簡(jiǎn)潔性及多用途實(shí)例探究,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01
python實(shí)現(xiàn)飛機(jī)大戰(zhàn)小游戲
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)飛機(jī)大戰(zhàn)游戲，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-11-11