最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python爬蟲selenium和phantomJs使用方法解析

 更新時間:2019年08月08日 16:48:54   作者:一覺昏睡人  
這篇文章主要介紹了python爬蟲selenium和phantomJs使用方法解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下

1.selenum:三方庫??梢詫崿F讓瀏覽器完成自動化的操作。

2.環(huán)境搭建

2.1 安裝:

pip install selenium

2.2 獲取瀏覽器的驅動程序

下載地址:

http://chromedriver.storage.googleapis.com/index.html

http://npm.taobao.org/mirrors/chromedriver/

瀏覽器版本和驅動版本的對應關系表:

chromedriver版本 支持的Chrome版本
v2.46 v71-73
v2.45 v70-72
v2.44 v69-71
v2.43 v69-71
v2.42 v68-70
v2.41 v67-69
v2.40 v66-68
v2.39 v66-68
v2.38 v65-67
v2.37 v64-66
v2.36 v63-65
v2.35 v62-64
v2.34 v61-63
v2.33 v60-62
v2.32 v59-61
v2.31 v58-60
v2.30 v58-60
v2.29 v56-58
v2.28 v55-57
v2.27 v54-56
v2.26 v53-55
v2.25 v53-55
v2.24 v52-54
v2.23 v51-53
v2.22 v49-52
v2.21 v46-50
v2.20 v43-48
v2.19 v43-47
v2.18 v43-46
v2.17 v42-43
v2.13 v42-45
v2.15 v40-43
v2.14 v39-42
v2.13 v38-41
v2.12 v36-40
v2.11 v36-40
v2.10 v33-36
v2.9 v31-34
v2.8 v30-33
v2.7 v30-33
v2.6 v29-32
v2.5 v29-32
v2.4 v29-32

所有chromedriver均可在下面鏈接中下載到:

http://chromedriver.storage.googleapis.com/index.html 

現在有一點好的是出了按照chrome版本對應的driver,直接按照瀏覽器版本去找對應的driver(只對應大版本就行),不用再費心去對應了,大家可以嘗試一下

有些同學說下不了,到taobao下也是可以的:

http://npm.taobao.org/mirrors/chromedriver/

定位元素的8種方式:

#使用下面的方法,查找指定的元素進行操作即可
find_element_by_id 根據id找節(jié)點
find_elements_by_name 根據name找
find_elements_by_xpath 根據xpath查找
find_elements_by_tag_name 根據標簽名找
find_elements_by_class_name 根據class名字查找
# 通過id定位:
dr.find_element_by_id("kw")

# 通過name定位:
dr.find_element_by_name("wd")

# 通過class name定位:
dr.find_element_by_class_name("s_ipt")

# 通過tag name定位:
dr.find_element_by_tag_name("input")

# 通過xpath定位,xpath定位有N種寫法,這里列幾個常用寫法:
dr.find_element_by_xpath("http://*[@id='kw']")
dr.find_element_by_xpath("http://*[@name='wd']")
dr.find_element_by_xpath("http://input[@class='s_ipt']")
dr.find_element_by_xpath("/html/body/form/span/input")
dr.find_element_by_xpath("http://span[@class='soutu-btn']/input")
dr.find_element_by_xpath("http://form[@id='form']/span/input")
dr.find_element_by_xpath("http://input[@id='kw' and @name='wd']")

# 通過css定位,css定位有N種寫法,這里列幾個常用寫法:
dr.find_element_by_css_selector("#kw")
dr.find_element_by_css_selector("[name=wd]")
dr.find_element_by_css_selector(".s_ipt")
dr.find_element_by_css_selector("html > body > form > span > input")
dr.find_element_by_css_selector("span.soutu-btn> input#kw")
dr.find_element_by_css_selector("form#form > span > input")

接下來,我們的頁面上有一組文本鏈接。

<a class="mnav"  rel="external nofollow" name="tj_trnews">新聞</a>
<a class="mnav"  rel="external nofollow" name="tj_trhao123">hao123</a>
# 通過link text定位:
dr.find_element_by_link_text("新聞")
dr.find_element_by_link_text("hao123")

# 通過partial link text定位:
dr.find_element_by_partial_link_text("新")
dr.find_element_by_partial_link_text("hao")
dr.find_element_by_partial_link_text("123")

Selenium庫下webdriver模塊常用方法的使用

控制瀏覽器操作的一些方法

方法 說明

  • set_window_size() 設置瀏覽器的大小
  • back() 控制瀏覽器后退
  • forward() 控制瀏覽器前進
  • refresh() 刷新當前頁面
  • clear() 清除文本
  • send_keys (value) 模擬按鍵輸入
  • click() 單擊元素
  • submit() 用于提交表單
  • get_attribute(name) 獲取元素屬性值
  • is_displayed() 設置該元素是否用戶可見
  • size 返回元素的尺寸
  • text 獲取元素的文本

---------------------

例子:

1.chrom瀏覽器自動搜索

from selenium import webdriver
from time import sleep
# 創(chuàng)建瀏覽器對象 驅動為瀏覽器的路徑
bro = webdriver.Chrome("./chromedriver.exe")
url = "https://www.baidu.com"7 # 發(fā)送請求
bro.get(url)
# 讓百度指定詞條的搜索
text = bro.find_element_by_id('kw')
# 發(fā)送關鍵字
text.send_keys('python')
# 點擊搜索按鈕
button = bro.find_element_by_id('su')
button.click()
# 關閉瀏覽器
bro.quit()

2.phantomjs無界面瀏覽器,其自動化流程上述操作谷歌自動化流程一致。

from selenium import webdriver
from time import sleep
bro = webdriver.PhantomJS('E:/BaiduNetdiskDownload/爬蟲課件/5. 動態(tài)數據加載
爬取\phantomjs‐2.1.1‐windows/bin/phantomjs.exe')
url = "https://www.baidu.com"
# 發(fā)送請求
bro.get(url)
bro.save_screenshot('./1.png')
# 讓百度指定詞條的搜索
text = bro.find_element_by_id('kw')
# 發(fā)送關鍵字
text.send_keys('python')
bro.save_screenshot('./2.png')
# 點擊搜索按鈕
button = bro.find_element_by_id('su')
button.click()
sleep(3)
bro.save_screenshot('./3.png')
# 關閉瀏覽器
bro.quit()

3.豆瓣網電影排行榜滾動條數據

from selenium import webdriver
from time import sleep3 url = 'https://movie.douban.com/typerank?type_name=%E5%96%9C%E5%89%A7&typ
e=24&interval_id=100:90&action='
bro = webdriver.PhantomJS('E:/BaiduNetdiskDownload/爬蟲課件/5. 動態(tài)數據加載
爬取\phantomjs‐2.1.1‐windows/bin/phantomjs.exe')
bro.get(url)
sleep(1)
bro.save_screenshot("./1.png")
js = 'window.scrollTo(0,document.body.scrollHeight)'
# 執(zhí)行js代碼 滾動條
bro.execute_script(js)
sleep(1)
bro.save_screenshot('./2.png')
# 獲取頁面數據
page_source = bro.page_source
print(page_source)

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

相關文章

  • python中plt.imshow與cv2.imshow顯示顏色問題

    python中plt.imshow與cv2.imshow顯示顏色問題

    這篇文章主要介紹了plt.imshow與cv2.imshow顯示顏色問題,本文給大家介紹的非常詳細,同時給大家提到了cv2.imshow()和plt.imshow()的區(qū)別講解,需要的朋友可以參考下
    2020-07-07
  • Python爬取動態(tài)網頁中圖片的完整實例

    Python爬取動態(tài)網頁中圖片的完整實例

    這篇文章主要給大家介紹了關于Python爬取動態(tài)網頁中圖片的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2021-03-03
  • python 遞歸相關知識總結

    python 遞歸相關知識總結

    這篇文章主要介紹了python 遞歸相關知識總結,幫助大家更好的理解和學習使用python,感興趣的朋友可以了解下
    2021-03-03
  • python self,cls,decorator的理解

    python self,cls,decorator的理解

    在python里面,self, cls 不是關鍵字,完全可以使用自己寫的任意變量代替實現一樣的效果
    2009-07-07
  • 使用Python實現生成對角矩陣和對角塊矩陣

    使用Python實現生成對角矩陣和對角塊矩陣

    這篇文章主要為大家詳細介紹了如何使用Python實現生成對角矩陣和對角塊矩陣,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下
    2024-01-01
  • python GUI庫圖形界面開發(fā)之PyQt5打印控件QPrinter詳細使用方法與實例

    python GUI庫圖形界面開發(fā)之PyQt5打印控件QPrinter詳細使用方法與實例

    這篇文章主要介紹了python GUI庫圖形界面開發(fā)之PyQt5打印控件QPrinter詳細使用方法與實例,需要的朋友可以參考下
    2020-02-02
  • Python實現Web應用國際化i18n的示例詳解

    Python實現Web應用國際化i18n的示例詳解

    這篇文章主要為大家詳細介紹了如何基于Python的gettext模塊,實現一個靈活、可擴展的多語言支持系統(tǒng),文中的示例代碼講解詳細,有需要的可以參考下
    2025-02-02
  • Python Playwright 文本框操作技巧

    Python Playwright 文本框操作技巧

    這篇文章主要介紹了Python Playwright 文本框操作技巧,包括如何獲得文本框的值,以及向文本框中添加單行和多行文本,本文結合實例代碼給大家介紹的非常詳細,需要的朋友可以參考下
    2023-05-05
  • Flask框架debug與配置項的開啟與設置詳解

    Flask框架debug與配置項的開啟與設置詳解

    這篇文章主要介紹了Flask框架debug與配置項的開啟與設置,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2022-09-09
  • 使用python處理一萬份word表格簡歷操作

    使用python處理一萬份word表格簡歷操作

    這篇文章主要介紹了使用python處理一萬份word表格簡歷操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-03-03

最新評論

湖南省| 湖北省| 株洲县| 和政县| 祁门县| 安平县| 专栏| 岑溪市| 宾川县| 秭归县| 贵港市| 鞍山市| 丹江口市| 五大连池市| 青浦区| 瓮安县| 湖州市| 会东县| 达尔| 连云港市| 阿瓦提县| 百色市| 五家渠市| 彰武县| 博爱县| 乡宁县| 黑河市| 潢川县| 上饶县| 宁化县| 启东市| 诸城市| 含山县| 庆安县| 收藏| 美姑县| 河南省| 江源县| 容城县| 西林县| 扎兰屯市|