Python網(wǎng)絡(luò)爬蟲神器PyQuery的基本使用教程

更新時(shí)間：2018年02月03日 16:22:03 作者：我為峰2014

這篇文章主要給大家介紹了關(guān)于Python網(wǎng)絡(luò)爬蟲神器PyQuery的基本使用教程，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家學(xué)習(xí)使用PyQuery具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧。

前言

pyquery庫(kù)是jQuery的Python實(shí)現(xiàn)，能夠以jQuery的語(yǔ)法來(lái)操作解析 HTML 文檔，易用性和解析速度都很好，和它差不多的還有BeautifulSoup，都是用來(lái)解析的。相比BeautifulSoup完美翔實(shí)的文檔，雖然PyQuery庫(kù)的文檔弱爆了，但是使用起來(lái)還是可以的，有些地方用起來(lái)很方便簡(jiǎn)潔。

安裝

關(guān)于PyQuery的安裝可以參考這篇文章：http://m.fzitv.net/article/82955.htm

PyQuery庫(kù)官方文檔

初始化為PyQuery對(duì)象
常用的CCS選擇器
偽類選擇器
查找標(biāo)簽
獲取標(biāo)簽信息

初始化為PyQuery對(duì)象

html = """
<html lang="en">
 <head>
 簡(jiǎn)單好用的
 <title>PyQuery</title>
 </head>
 <body>
 <ul id="container">
  <li class="object-1">Python</li>
  <li class="object-2">大法</li>
  <li class="object-3">好</li>
 </ul>
 </body>
</html>
"""

相當(dāng)于BeautifulSoup庫(kù)的初識(shí)化方法，將html轉(zhuǎn)化為BeautifulSoup對(duì)象。

bsObj = BeautifulSoup(html, 'html.parser')

PyQuery庫(kù)也要有自己的初始化。

1.1 將字符串初始化

from pyquery import PyQuery as pq
#初始化為PyQuery對(duì)象
doc = pq(html)
print(type(doc))
print(doc)

<class 'pyquery.pyquery.PyQuery'>

<html lang="en">
 <head>
 <title>PyQuery學(xué)習(xí)</title>
 </head>
 <body>
 <ul id="container">
  <li class="object-1"/>
  <li class="object-2"/>
  <li class="object-3"/>
 </ul>
 </body>
</html>

1.2 將html文件初始化

#filename參數(shù)為html文件路徑
test_html = pq(filename = 'test.html')
print(type(test_html))
print(test_html)

<class 'pyquery.pyquery.PyQuery'><html lang="en">
 <head>
 <title>PyQuery學(xué)習(xí)</title>
 </head>
 <body>
 <ul id="container">
  <li class="object-1"/>
  <li class="object-2"/>
  <li class="object-3"/>
 </ul>
 </body>
</html>

1.3 對(duì)網(wǎng)址響應(yīng)進(jìn)行初始化

response = pq(url = 'https://www.baidu.com')
print(type(response))
print(response)

<class 'pyquery.pyquery.PyQuery'>

<html> <head><meta http-equiv="content-type" content="text/html;charset=utf-8"/><meta http-equiv="X-UA-Compatible" content="IE=Edge"/><meta content="always" name="referrer"/><link rel="stylesheet" type="text/css"  rel="external nofollow" /><title>ç�¾åº¦ä¸�ä¸�ï¼�ä½ å°±ç�¥é��</title></head> <body link="#0000cc"> <div id="wrapper"> <div id="head"> <div class="head_wrapper"> <div class="s_form"> <div class="s_form_wrapper"> <div id="lg"> <img hidefocus="true" src="http://www.baidu.com/img/bd_logo1.png" width="270" height="129"/> </div> <form id="form" name="f" action="http://www.baidu.com/s" class="fm"> <input type="hidden" name="bdorz_come" value="1"/> <input type="hidden" name="ie" value="utf-8"/> <input type="hidden" name="f" value="8"/> <input type="hidden" name="rsv_bp" value="1"/> <input type="hidden" name="rsv_idx" value="1"/> <input type="hidden" name="tn" value="baidu"/><span class="bg s_ipt_wr"><input id="kw" name="wd" class="s_ipt" value="" maxlength="255" autocomplete="off" autofocus="autofocus"/></span><span class="bg s_btn_wr"><input type="submit" id="su" value="ç�¾åº¦ä¸�ä¸�" class="bg s_btn" autofocus=""/></span> </form> </div> </div> <div id="u1"> <a  rel="external nofollow" name="tj_trnews" class="mnav">æ�°é�»</a> <a  rel="external nofollow" name="tj_trhao123" class="mnav">hao123</a> <a  rel="external nofollow" name="tj_trmap" class="mnav">å�°å�¾</a> <a  rel="external nofollow" name="tj_trvideo" class="mnav">è§�é¢�</a> <a  rel="external nofollow" name="tj_trtieba" class="mnav">è´´å�§</a> <noscript> <a  rel="external nofollow" name="tj_login" class="lb">ç�»å½�</a> </noscript> <script>document.write('&lt;a + encodeURIComponent(window.location.href+ (window.location.search === " rel="external nofollow" " ? "?" : "&amp;")+ "bdorz_come=1")+ '" name="tj_login" class="lb"&gt;ç�»å½�&lt;/a&gt;');&#13;</script> <a  rel="external nofollow" name="tj_briicon" class="bri" style="display: block;">æ�´å¤�äº§å��</a> </div> </div> </div> <div id="ftCon"> <div id="ftConw"> <p id="lh"> <a  rel="external nofollow" >å
³äº�ç�¾åº¦</a> <a  rel="external nofollow" >About Baidu</a> </p> <p id="cp">©2017 Baidu <a  rel="external nofollow" >ä½¿ç�¨ç�¾åº¦å��å¿
è¯»</a> <a  rel="external nofollow" class="cp-feedback">æ��è§�å��é¦�</a> äº¬ICPè¯�030173å�· <img src="http://www.baidu.com/img/gs.gif"/> </p> </div> </div> </div> </body> </html>

二、常用的CCS選擇器

打印id為container的標(biāo)簽

print(doc('#container'))
print(type(doc('#container')))

<ul id="container">
 <li class="object-1"/>
 <li class="object-2"/>
 <li class="object-3"/>
</ul>

<class 'pyquery.pyquery.PyQuery'>

打印class為object-1的標(biāo)簽

print(doc('.object-1'))

<li class="object-1"/>

打印標(biāo)簽名為body的標(biāo)簽

print(doc('body'))

<body>
 <ul id="container">
 <li class="object-1"/>
 <li class="object-2"/>
 <li class="object-3"/>
 </ul>
</body>

多種css選擇器使用

print(doc('html #container'))

<ul id="container">
 <li class="object-1"/>
 <li class="object-2"/>
 <li class="object-3"/>
</ul>

三、偽類選擇器

偽類nth

print(pseudo_doc('li:nth-child(2)'))
#打印第一個(gè)li標(biāo)簽
print(pseudo_doc('li:first-child'))
#打印最后一個(gè)標(biāo)簽
print(pseudo_doc('li:last-child'))

<li class="object-2">大法</li>
<li class="object-1">Python</li>
<li class="object-6">好玩</li>

contains

#找到含有Python的li標(biāo)簽
print(pseudo_doc("li:contains('Python')"))
#找到含有好的li標(biāo)簽
print(pseudo_doc("li:contains('好')"))

<li class="object-1">Python</li>
<li class="object-3">好</li>
<li class="object-4">好</li>
<li class="object-6">好玩</li>

四、查找標(biāo)簽

按照條件在Pyquery對(duì)象中查找符合條件的標(biāo)簽，類似于BeautifulSoup中的find方法。

打印id=container的標(biāo)簽

print(doc.find('#container'))

<ul id="container">
 <li class="object-1"/>
 <li class="object-2"/>
 <li class="object-3"/>
</ul>
print(doc.find('li'))

<li class="object-1"/>
<li class="object-2"/>
<li class="object-3"/>

4.2 子輩標(biāo)簽-children方法

#id=container的標(biāo)簽的子輩標(biāo)簽
container = doc.find('#container')
print(container.children())

<li class="object-1"/>
<li class="object-2"/>
<li class="object-3"/>

4.3 父輩標(biāo)簽-parent方法

object_2 = doc.find('.object-2')
print(object_2.parent())

<ul id="container">
 <li class="object-1"/>
 <li class="object-2"/>
 <li class="object-3"/>
</ul>

4.4 兄弟標(biāo)簽-siblings方法

object_2 = doc.find('.object-2')
print(object_2.siblings())

<li class="object-1"/>
<li class="object-3"/>

五、獲取標(biāo)簽的信息

定位到目標(biāo)標(biāo)簽后，我們需要標(biāo)簽內(nèi)部的文本或者屬性值，這時(shí)候需要進(jìn)行提取文本或?qū)傩灾挡僮?/p>

5.1 標(biāo)簽屬性值的提取

.attr() 傳入標(biāo)簽的屬性名，返回屬性值

object_2 = doc.find('.object-2')
print(object_2.attr('class'))

object-2

5.2 標(biāo)簽內(nèi)的文本

.text()

html_text = """
<html lang="en">
 <head>
  簡(jiǎn)單好用的
  <title>PyQuery</title>
 </head>
 <body>
  <ul id="container">
   Hello World！
   <li class="object-1">Python</li>
   <li class="object-2">大法</li>
   <li class="object-3">好</li>
  </ul>
 </body>
</html>
"""
docs = pq(html_text)
print(docs.text())

簡(jiǎn)單好用的 PyQuery Hello World！ Python 大法 好

object_1 = docs.find('.object-1')
print(object_1.text())
container = docs.find('#container')
print(container.text())

Python

Hello World！ Python 大法 好

tips:如果我只想獲得Hello World這個(gè)，不想得到其他的文本，可以使用remove方法將li標(biāo)簽去掉，然后再使用text方法

container = docs.find('#container')
container.remove('li')
print(container.text())

Hello World！

pyquery一些自定義的用法

訪問(wèn)網(wǎng)址

PyQuery與BeautifulSoup對(duì)比，我們會(huì)發(fā)現(xiàn)PyQuery可以對(duì)網(wǎng)址發(fā)起請(qǐng)求。比如

from pyquery import PyQuery
PyQuery(url = 'https://www.baidu.com')

opener參數(shù)

這是PyQuery對(duì)百度網(wǎng)址進(jìn)行請(qǐng)求，并將請(qǐng)求返回的響應(yīng)數(shù)據(jù)處理為PyQuery對(duì)象。一般pyquery庫(kù)會(huì)默認(rèn)調(diào)用urllib庫(kù)，如果想使用selenium或者requests庫(kù)，可以自定義PyQuery的opener參數(shù)。

opener參數(shù)作用是告訴pyquery用什么請(qǐng)求庫(kù)對(duì)網(wǎng)址發(fā)起請(qǐng)求。常見(jiàn)的請(qǐng)求庫(kù)如urllib、requests、selenium。這里我們自定義一個(gè)selenium的opener。

from pyquery import PyQuery
from selenium.webdriver import PhantomJS
#用selenium訪問(wèn)url
def selenium_opener(url):
 #我沒(méi)有將Phantomjs放到環(huán)境變量，所以每次用都要放上路徑
 driver = PhantomJS(executable_path = 'phantomjs的路徑')
 driver.get(url)
 html = driver.page_source
 driver.quit()
 return html
#注意，使用時(shí)opener參數(shù)是函數(shù)名，沒(méi)有括號(hào)的！
PyQuery(url='https://www.baidu.com/', opener=selenium_opener)

這時(shí)候我們就能對(duì)PyQuery對(duì)象進(jìn)行操作，提取有用的信息。具體請(qǐng)看上次的分享，如果想了解更多的功能，pyquery文檔寫的不怎么詳細(xì)，好在基本跟jQuery功能吻合，我們?nèi)绻胗煤胮yquery，需要查看jQuery文檔。

cookies、headers

在requests用法中，一般為了訪問(wèn)網(wǎng)址更加真實(shí)，模仿成瀏覽器。一般我們需要傳入headers，必要的時(shí)候還需要傳入cookies參數(shù)。而pyquery庫(kù)就有這功能，也能偽裝瀏覽器。

from pyquery import PyQuery
cookies = {'Cookie':'你的cookie'}
headers = {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36'}
PyQuery(url='https://www.baidu.com/',headers=headers,cookies=cookies)

讓你的selenium帶上pyquery功能

讓driver訪問(wèn)的網(wǎng)址得到的網(wǎng)頁(yè)直接變?yōu)镻yQuery對(duì)象，更方便提取數(shù)據(jù)

from pyquery import PyQuery
from selenium.webdriver import PhantomJS
class Browser(PhantomJS):
 @property 
 def dom(self):
  return PyQuery(self.page_source)"""
這部分property是裝飾器，需要知道@property下面緊跟的函數(shù)，實(shí)現(xiàn)了類的屬性功能。
這里browser.dom，就是browser的dom屬性。
"""
browser = Browser(executable_path='phantomjs的路徑')
browser.get(url='https://www.baidu.com/')
print(type(browser.dom))