最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python實現簡單爬蟲功能的示例

 更新時間:2016年10月24日 15:41:55   作者:蟲師  
本文主要是介紹python實現簡單爬蟲功能的示例,主要實現了把我們想要的圖片爬蟲到本地的一個示例,有需要的朋友可以了解一下。

在我們日常上網瀏覽網頁的時候,經常會看到一些好看的圖片,我們就希望把這些圖片保存下載,或者用戶用來做桌面壁紙,或者用來做設計的素材。

我們最常規(guī)的做法就是通過鼠標右鍵,選擇另存為。但有些圖片鼠標右鍵的時候并沒有另存為選項,還有辦法就通過就是通過截圖工具截取下來,但這樣就降低圖片的清晰度。好吧~!其實你很厲害的,右鍵查看頁面源代碼。

我們可以通過python 來實現這樣一個簡單的爬蟲功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來實現這樣一個功能。

一,獲取整個頁面數據

首先我們可以先獲取要下載圖片的整個頁面信息。
getjpg.py

#coding=utf-8
import urllib
def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

html = getHtml("http://tieba.baidu.com/p/2738151262")
print html

Urllib 模塊提供了讀取web頁面數據的接口,我們可以像讀取本地文件一樣讀取www和ftp上的數據。首先,我們定義了一個getHtml()函數:

urllib.urlopen()方法用于打開一個URL地址。

read()方法用于讀取URL上的數據,向getHtml()函數傳遞一個網址,并把整個頁面下載下來。執(zhí)行程序就會把整個網頁打印輸出。

二,篩選頁面中想要的數據
Python 提供了非常強大的正則表達式,我們需要先要了解一點python 正則表達式的知識才行.

假如我們百度貼吧找到了幾張漂亮的壁紙,通過到前段查看工具。找到了圖片的地址,如:src=”http://imgsrc.baidu.com/forum......jpg”pic_ext=”jpeg”

修改代碼如下:

import re
import urllib

def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

def getImg(html):
  reg = r'src="(.+?\.jpg)" pic_ext'
  imgre = re.compile(reg)
  imglist = re.findall(imgre,html)
  return imglist   
  
html = getHtml("http://tieba.baidu.com/p/2460150866")
print getImg(html)

我們又創(chuàng)建了getImg()函數,用于在獲取的整個頁面中篩選需要的圖片連接。re模塊主要包含了正則表達式:

re.compile() 可以把正則表達式編譯成一個正則表達式對象.

re.findall() 方法讀取html 中包含 imgre(正則表達式)的數據。

運行腳本將得到整個頁面中包含圖片的URL地址。

三,將頁面篩選的數據保存到本地

把篩選的圖片地址通過for循環(huán)遍歷并保存到本地,代碼如下:

#coding=utf-8
import urllib
import re

def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

def getImg(html):
  reg = r'src="(.+?\.jpg)" pic_ext'
  imgre = re.compile(reg)
  imglist = re.findall(imgre,html)
  x = 0
  for imgurl in imglist:
    urllib.urlretrieve(imgurl,'%s.jpg' % x)
    x+=1


html = getHtml("http://tieba.baidu.com/p/2460150866")

print getImg(html)

這里的核心是用到了urllib.urlretrieve()方法,直接將遠程數據下載到本地。

通過一個for循環(huán)對獲取的圖片連接進行遍歷,為了使圖片的文件名看上去更規(guī)范,對其進行重命名,命名規(guī)則通過x變量加1。保存的位置默認為程序的存放目錄。

程序運行完成,將在目錄下看到下載到本地的文件。

感謝閱讀,希望能幫助到大家,謝謝大家對本站的支持!

相關文章

  • 通過實例解析python描述符原理作用

    通過實例解析python描述符原理作用

    這篇文章主要介紹了通過實例解析python描述符原理作用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2020-01-01
  • pip安裝時ReadTimeoutError的解決方法

    pip安裝時ReadTimeoutError的解決方法

    今天小編就為大家分享一篇pip安裝時ReadTimeoutError的解決方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-06-06
  • 使用Python PIL庫讀取文件批量處理圖片大小實現

    使用Python PIL庫讀取文件批量處理圖片大小實現

    這篇文章主要為大家介紹了使用Python PIL庫讀取文件批量處理圖片大小實現示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2023-07-07
  • Python學習之列表常用方法總結

    Python學習之列表常用方法總結

    這篇文章主要為大家介紹了Python中列表的幾個常用方法總結,文中的示例代碼講解詳細,對我們學習Python列表有一定幫助,需要的可以參考一下
    2022-03-03
  • Pycharm2020.1安裝無法啟動問題即設置中文插件的方法

    Pycharm2020.1安裝無法啟動問題即設置中文插件的方法

    這篇文章主要介紹了Pycharm2020.1安裝無法啟動問題即設置中文插件的操作方法,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友參考下吧
    2020-08-08
  • 從零學Python之引用和類屬性的初步理解

    從零學Python之引用和類屬性的初步理解

    Python是一種解釋型、面向對象、動態(tài)數據類型的高級程序設計語言。自從20世紀90年代初Python語言誕生至今,它逐漸被廣泛應用于處理系統(tǒng)管理任務和Web編程。Python已經成為最受歡迎的程序設計語言之一。2011年1月,它被TIOBE編程語言排行榜評為2010年度語言。自從2004年以后,python的使用率是呈線性增長。
    2014-05-05
  • Python 圖片處理庫exifread詳解

    Python 圖片處理庫exifread詳解

    這篇文章主要介紹了Python 圖片處理庫exifread詳解,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2021-02-02
  • Pandas 如何篩選包含特定字符的列

    Pandas 如何篩選包含特定字符的列

    這篇文章主要介紹了Pandas 如何篩選包含特定字符的列,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-03-03
  • Redis之windows下主從復制案例講解

    Redis之windows下主從復制案例講解

    這篇文章主要介紹了Redis之windows下主從復制案例講解,本篇文章通過簡要的案例,講解了該項技術的了解與使用,以下就是詳細內容,需要的朋友可以參考下
    2021-08-08
  • Python下載懶人圖庫JavaScript特效

    Python下載懶人圖庫JavaScript特效

    本文給大家分享的是使用Python 爬蟲抓取懶人圖庫的JS腳本特效模板的代碼,使用了第三方庫gevent來實現,有需要的小伙伴可以參考下。
    2015-05-05

最新評論

长葛市| 曲沃县| 西峡县| 苍南县| 南漳县| 汉源县| 庆安县| 大庆市| 安西县| 聂荣县| 彭山县| 甘孜县| 安吉县| 札达县| 浏阳市| 阜宁县| 乌兰察布市| 蒲城县| 北安市| 舞阳县| 麻栗坡县| 广饶县| 达孜县| 彩票| 西华县| 威信县| 四子王旗| 龙岩市| 景宁| 嘉善县| 商城县| 汨罗市| 黄冈市| 耒阳市| 郁南县| 剑河县| 永宁县| 五台县| 宁河县| 永靖县| 白水县|