Python Requests爬蟲之求取關(guān)鍵詞頁面詳解
更新時間:2022年02月16日 10:10:18 作者:那人獨釣寒江雪.
這篇文章主要為大家詳細(xì)介紹了Python Requests爬蟲之求取關(guān)鍵詞頁面,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助
需求:爬取搜狗首頁的頁面數(shù)據(jù)
import requestsif __name__=='__main__': #step 1:搜索Url url='https://123.sogou.com/' #step 2:發(fā)起請求 #get方法會返回一個響應(yīng)對象 response=requests.get(url=url) #step 3:獲取響應(yīng)數(shù)據(jù),text返回的是字符串形式的響應(yīng)數(shù)據(jù) page_text=response.text print(page_text) #step 4:持久化存儲 with open('./sogou.html','w',encoding='utf-8') as fp: fp.write(page_text) print("爬取數(shù)據(jù)結(jié)束")import requests
if __name__=='__main__':
#step 1:搜索Url
url='https://123.sogou.com/'
#step 2:發(fā)起請求
#get方法會返回一個響應(yīng)對象
response=requests.get(url=url)
#step 3:獲取響應(yīng)數(shù)據(jù),text返回的是字符串形式的響應(yīng)數(shù)據(jù)
page_text=response.text
print(page_text)
#step 4:持久化存儲
with open('./sogou.html','w',encoding='utf-8') as fp:
fp.write(page_text)
print("爬取數(shù)據(jù)結(jié)束")

使用UA偽裝 求取關(guān)鍵詞頁面
import requests
if __name__=='__main__':
#UA偽裝:將對應(yīng)的User-Agent封裝到一個字典中
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.9 Safari/537.36'
}
url='https://www.sogou.com/sie?'
#處理url攜帶的參數(shù):封裝到字典中
kw=input('enter a word:')
param={
'query':kw
}
#對指定的url發(fā)起的請求對應(yīng)的url是攜帶參數(shù)的,并且請求過程中處理了參數(shù)
response=requests.get(url=url,params=param,headers=headers)#headers是偽裝 params輸入關(guān)鍵詞
page_text=response.text#以文本的形式輸出
fileName=kw+'.html'#存儲為網(wǎng)頁形式
with open(fileName,'w+',encoding='utf-8') as fp:
fp.write(page_text)#寫入fp
print(fileName,"保存成功??!")

總結(jié)
本篇文章就到這里了,希望能夠給你帶來幫助,也希望您能夠多多關(guān)注腳本之家的更多內(nèi)容!
相關(guān)文章
Python如何利用xlrd和xlwt模塊操作Excel表格
這篇文章主要給大家介紹了關(guān)于Python如何利用xlrd和xlwt模塊操作Excel表格的相關(guān)資料,其中xlrd模塊實現(xiàn)對excel文件內(nèi)容讀取,xlwt模塊實現(xiàn)對excel文件的寫入,需要的朋友可以參考下2022-03-03
Python+OpenCV圖片去水印的多種方案實現(xiàn)
這篇文章主要為大家總結(jié)了Python結(jié)合OpenCV的幾種常見的水印去除方式,簡單圖片去水印效果良好,有需要的小伙伴可以跟隨小編一起了解下2025-02-02
Python Pygame實戰(zhàn)之超級炸彈人游戲的實現(xiàn)
如今的玩家們在無聊的時候會玩些什么游戲呢?王者還是吃雞是最多的選擇。但在80、90年代的時候多是一些很簡單的游戲:《超級瑪麗》、《魂斗羅》等。本文將利用Pygame制作另一個經(jīng)典游戲—炸彈人,感興趣的可以了解一下2022-03-03
詳解如何在VS Code中安裝Spire.PDF for Python
這篇文章主要為大家詳細(xì)介紹了如何在VS Code中安裝Spire.PDF for Python,文中的示例代碼簡潔易懂,有需要的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-10-10
Python利用sched模塊實現(xiàn)定時任務(wù)
今天我們來介紹一下Python當(dāng)中的定時任務(wù),主要用到的模塊是sched,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-04-04

