關(guān)于python爬蟲的原理解析
前言
簡(jiǎn)單來說互聯(lián)網(wǎng)是由一個(gè)個(gè)站點(diǎn)和網(wǎng)絡(luò)設(shè)備組成的大網(wǎng)，我們通過瀏覽器訪問站點(diǎn)，站點(diǎn)把HTML、JS、CSS代碼返回給瀏覽器，這些代碼經(jīng)過瀏覽器解析、渲染，將豐富多彩的網(wǎng)頁(yè)呈現(xiàn)我們眼前;
一、爬蟲是什么?
如果我們把互聯(lián)網(wǎng)比作一張大的蜘蛛網(wǎng)，數(shù)據(jù)便是存放于蜘蛛網(wǎng)的各個(gè)節(jié)點(diǎn)，而爬蟲就是一只小蜘蛛，
沿著網(wǎng)絡(luò)抓取自己的獵物(數(shù)據(jù))爬蟲指的是：向網(wǎng)站發(fā)起請(qǐng)求，獲取資源后分析并提取有用數(shù)據(jù)的程序;
從技術(shù)層面來說就是 通過程序模擬瀏覽器請(qǐng)求站點(diǎn)的行為，把站點(diǎn)返回的HTML代碼/JSON數(shù)據(jù)/二進(jìn)制數(shù)據(jù)(圖片、視頻) 爬到本地，進(jìn)而提取自己需要的數(shù)據(jù)，存放起來使用;
二、爬蟲的基本流程：
用戶獲取網(wǎng)絡(luò)數(shù)據(jù)的方式：
方式1：瀏覽器提交請(qǐng)求—>下載網(wǎng)頁(yè)代碼—>解析成頁(yè)面
方式2：模擬瀏覽器發(fā)送請(qǐng)求(獲取網(wǎng)頁(yè)代碼)->提取有用的數(shù)據(jù)->存放于數(shù)據(jù)庫(kù)或文件中。最后，如果你的時(shí)間不是很緊張，并且又想快速的提高，最重要的是不怕吃苦
爬蟲要做的就是方式2
1、發(fā)起請(qǐng)求
使用http庫(kù)向目標(biāo)站點(diǎn)發(fā)起請(qǐng)求，即發(fā)送一個(gè)Request
Request包含：請(qǐng)求頭、請(qǐng)求體等
Request模塊缺陷：不能執(zhí)行JS 和CSS 代碼
2、獲取響應(yīng)內(nèi)容
如果服務(wù)器能正常響應(yīng)，則會(huì)得到一個(gè)Response
Response包含：html，json，圖片，視頻等
3、解析內(nèi)容
解析html數(shù)據(jù)：正則表達(dá)式(RE模塊)，第三方解析庫(kù)如Beautifulsoup，pyquery等
解析json數(shù)據(jù)：json模塊
解析二進(jìn)制數(shù)據(jù):以wb的方式寫入文件
4、保存數(shù)據(jù)
數(shù)據(jù)庫(kù)(MySQL，Mongdb、Redis)
文件
三、http協(xié)議 請(qǐng)求與響應(yīng)
Request：用戶將自己的信息通過瀏覽器(socket client)發(fā)送給服務(wù)器(socketserver)
Response：服務(wù)器接收請(qǐng)求，分析用戶發(fā)來的請(qǐng)求信息，然后返回?cái)?shù)據(jù)(返回的數(shù)據(jù)中可能包含其他鏈接，如：圖片，js，css等)
ps：瀏覽器在接收Response后，會(huì)解析其內(nèi)容來顯示給用戶，而爬蟲程序在模擬瀏覽器發(fā)送請(qǐng)求然后接收Response后，是要提取其中的有用數(shù)據(jù)。
四、 request
1、請(qǐng)求方式：
常見的請(qǐng)求方式：GET / POST
2、請(qǐng)求的URL
url全球統(tǒng)一資源定位符，用來定義互聯(lián)網(wǎng)上一個(gè)唯一的資源 例如：一張圖片、一個(gè)文件、一段視頻都可以用url唯一確定
url編碼
圖片會(huì)被編碼(看示例代碼)
網(wǎng)頁(yè)的加載過程是：
加載一個(gè)網(wǎng)頁(yè)，通常都是先加載document文檔，
在解析document文檔的時(shí)候，遇到鏈接，則針對(duì)超鏈接發(fā)起下載圖片的請(qǐng)求
3、請(qǐng)求頭
User-agent：請(qǐng)求頭中如果沒有user-agent客戶端配置，服務(wù)端可能將你當(dāng)做一個(gè)非法用戶host;
cookies：cookie用來保存登錄信息
注意： 一般做爬蟲都會(huì)加上請(qǐng)求頭
請(qǐng)求頭需要注意的參數(shù)：
(1)Referrer：訪問源至哪里來(一些大型網(wǎng)站，會(huì)通過Referrer 做防盜鏈策略;所有爬蟲也要注意模擬)
(2)User-Agent:訪問的瀏覽器(要加上否則會(huì)被當(dāng)成爬蟲程序)
(3)cookie：請(qǐng)求頭注意攜帶
4、請(qǐng)求體
請(qǐng)求體
如果是get方式，請(qǐng)求體沒有內(nèi)容 (get請(qǐng)求的請(qǐng)求體放在 url后面參數(shù)中，直接能看到)
如果是post方式，請(qǐng)求體是format data
ps：
1、登錄窗口，文件上傳等，信息都會(huì)被附加到請(qǐng)求體內(nèi)
2、登錄，輸入錯(cuò)誤的用戶名密碼，然后提交，就可以看到post，正確登錄后頁(yè)面通常會(huì)跳轉(zhuǎn)，無法捕捉到post
五、 響應(yīng)Response
1、響應(yīng)狀態(tài)碼
200：代表成功
301：代表跳轉(zhuǎn)
404：文件不存在
403：無權(quán)限訪問
502：服務(wù)器錯(cuò)誤
2、respone header
響應(yīng)頭需要注意的參數(shù)：
(1)Set-Cookie:BDSVRTM=0; path=/：可能有多個(gè)，是來告訴瀏覽器，把cookie保存下來。最后，如果你的時(shí)間不是很緊張，并且又想快速的提高，最重要的是不怕吃苦，建議你可以聯(lián)系維：762459510 ，那個(gè)真的很不錯(cuò)，很多人進(jìn)步都很快，需要你不怕吃苦哦！大家可以去添加上看一下~
(2)Content-Location：服務(wù)端響應(yīng)頭中包含Location返回瀏覽器之后，瀏覽器就會(huì)重新訪問另一個(gè)頁(yè)面
3、preview就是網(wǎng)頁(yè)源代碼
JSO數(shù)據(jù)
如網(wǎng)頁(yè)html，圖片
二進(jìn)制數(shù)據(jù)等
六、總結(jié)
1、總結(jié)爬蟲流程：
爬取—>解析—>存儲(chǔ)
2、爬蟲所需工具：
請(qǐng)求庫(kù)：requests,selenium(可以驅(qū)動(dòng)瀏覽器解析渲染CSS和JS，但有性能劣勢(shì)(有用沒用的網(wǎng)頁(yè)都會(huì)加載)??
解析庫(kù)：正則，beautifulsoup，pyquery
存儲(chǔ)庫(kù)：文件，MySQL，Mongodb，Redis
感謝您的閱讀，以上就是對(duì)python爬蟲原理的一些介紹
到此這篇關(guān)于關(guān)于python爬蟲的原理解析的文章就介紹到這了,更多相關(guān)python爬蟲原理內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
這篇文章主要介紹了Python中Django的URL反向解析,url反向解析是指在視圖或模板中,用path定義的名稱來動(dòng)態(tài)查找或計(jì)算出相應(yīng)的路由,本文提供了部分實(shí)現(xiàn)代碼與解決思路,需要的朋友可以參考下2023-09-09
利用Python實(shí)現(xiàn)讀取Word文檔里的Excel附件
這篇文章主要為大家詳細(xì)介紹了如何利用Python實(shí)現(xiàn)讀取Word文檔里的Excel附件，文中的示例代碼講解詳細(xì)，感興趣的小伙伴可以跟隨小編一起了解一下2022-12-12
這篇文章主要介紹了Python生成九宮格圖片的示例代碼，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04
python3.6 tkinter實(shí)現(xiàn)屏保小程序
這篇文章主要為大家詳細(xì)介紹了python3.6 tkinter實(shí)現(xiàn)屏保小程序，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-07-07
今天小編就為大家分享一篇Python給定一個(gè)句子倒序輸出單詞以及字母的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-12-12
這篇文章主要介紹了Python計(jì)算信息熵實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-06-06
基于Python編寫一個(gè)計(jì)算器程序,實(shí)現(xiàn)簡(jiǎn)單的加減乘除和取余二元運(yùn)算
這篇文章主要介紹了基于Python編寫一個(gè)計(jì)算器程序，實(shí)現(xiàn)簡(jiǎn)單的加減乘除和取余二元運(yùn)算，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08
這篇文章主要為大家詳細(xì)介紹了如何使用Python編寫簡(jiǎn)單的邏輯，通過調(diào)用API接口實(shí)現(xiàn)每日新聞推送功能，感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-06-06
Pycharm配置autopep8實(shí)現(xiàn)流程解析
這篇文章主要介紹了Pycharm配置autopep8實(shí)現(xiàn)流程解析,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-11-11
Python 從一個(gè)文件中調(diào)用另一個(gè)文件的類方法
今天小編就為大家分享一篇Python 從一個(gè)文件中調(diào)用另一個(gè)文件的類方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-01-01