最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python爬蟲抓取指定網(wǎng)頁圖片代碼實(shí)例

 更新時(shí)間:2020年07月24日 08:35:48   作者:ttweixiao9999  
這篇文章主要介紹了Python爬蟲抓取指定網(wǎng)頁圖片代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下

想要爬取指定網(wǎng)頁中的圖片主要需要以下三個(gè)步驟:

(1)指定網(wǎng)站鏈接,抓取該網(wǎng)站的源代碼(如果使用google瀏覽器就是按下鼠標(biāo)右鍵 -> Inspect-> Elements 中的 html 內(nèi)容)

(2)根據(jù)你要抓取的內(nèi)容設(shè)置正則表達(dá)式以匹配要抓取的內(nèi)容

(3)設(shè)置循環(huán)列表,重復(fù)抓取和保存內(nèi)容

以下介紹了兩種方法實(shí)現(xiàn)抓取指定網(wǎng)頁中圖片

(1)方法一:使用正則表達(dá)式過濾抓到的 html 內(nèi)容字符串

# 第一個(gè)簡(jiǎn)單的爬取圖片的程序
import urllib.request # python自帶的爬操作url的庫
import re # 正則表達(dá)式


# 該方法傳入url,返回url的html的源代碼
def getHtmlCode(url):
  # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求
  headers = {
    'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \
    AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
  }
  # 將headers頭部添加到url,模擬瀏覽器訪問
  url = urllib.request.Request(url, headers=headers)

  # 將url頁面的源代碼保存成字符串
  page = urllib.request.urlopen(url).read()
  # 字符串轉(zhuǎn)碼
  page = page.decode('UTF-8')
  return page


# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)
def getImage(page):
  # [^\s]*? 表示最小匹配, 兩個(gè)括號(hào)表示列表中有兩個(gè)元組
  # imageList = re.findall(r'(https:[^\s]*?(png))"', page)
  imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page)
  x = 0
  # 循環(huán)列表
  for imageUrl in imageList:
    try:
      print('正在下載: %s' % imageUrl[0])
      # 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果
      image_save_path = './image/%d.png' % x
      # 下載圖片并且保存到指定文件夾中
      urllib.request.urlretrieve(imageUrl[0], image_save_path)
      x = x + 1
    except:
      continue
  pass
if __name__ == '__main__':
  # 指定要爬取的網(wǎng)站
  url = "https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html"
  # 得到該網(wǎng)站的源代碼
  page = getHtmlCode(url)
  # 爬取該網(wǎng)站的圖片并且保存
  getImage(page)
  # print(page)

注意,代碼中需要修改的就是imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 這一塊內(nèi)容,如何設(shè)計(jì)正則表達(dá)式需要根據(jù)你想要抓取的內(nèi)容設(shè)置。我的設(shè)計(jì)來源如下:

可以看到,因?yàn)檫@個(gè)網(wǎng)頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r'(https:[^\s]*?(png))"', page)也是可以的。

(2)方法二:使用 BeautifulSoup 庫解析 html 網(wǎng)頁

from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數(shù)庫,是Python內(nèi)置的網(wǎng)頁分析工具
import urllib # python自帶的爬操作url的庫


# 該方法傳入url,返回url的html的源代碼
def getHtmlCode(url):
  # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求
  headers = {
    'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \
    AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
  }
  # 將headers頭部添加到url,模擬瀏覽器訪問
  url = urllib.request.Request(url, headers=headers)

  # 將url頁面的源代碼保存成字符串
  page = urllib.request.urlopen(url).read()
  # 字符串轉(zhuǎn)碼
  page = page.decode('UTF-8')
  return page


# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)
def getImage(page):
  # 按照html格式解析頁面
  soup = BeautifulSoup(page, 'html.parser')
  # 格式化輸出DOM樹的內(nèi)容
  print(soup.prettify())
  # 返回所有包含img標(biāo)簽的列表,因?yàn)樵贖tml文件中圖片的插入呈現(xiàn)形式是<img src="..." alt=".." />
  imgList = soup.find_all('img')
  x = 0
  # 循環(huán)找到的圖片列表,注意,這里手動(dòng)設(shè)置從第2張圖片開始,是因?yàn)槲襠ebug看到了第一張圖片不是我想要的圖片
  for imgUrl in imgList[1:]:
    print('正在下載: %s ' % imgUrl.get('src'))
    # 得到scr的內(nèi)容,這里返回的就是Url字符串鏈接,如'https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png'
    image_url = imgUrl.get('src')
    # 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果
    image_save_path = './image/%d.png' % x
    # 下載圖片并且保存到指定文件夾中
    urllib.request.urlretrieve(image_url, image_save_path)
    x = x + 1
if __name__ == '__main__':
  # 指定要爬取的網(wǎng)站
  url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html'
  # 得到該網(wǎng)站的源代碼
  page = getHtmlCode(url)
  # 爬取該網(wǎng)站的圖片并且保存
  getImage(page)

這兩種方法各有利弊,我覺得可以靈活結(jié)合使用這兩種方法,比如先使用方法2中指定標(biāo)簽的方法縮小要尋找的內(nèi)容范圍,然后再使用正則表達(dá)式匹配想要的內(nèi)容,這樣做起來更加簡(jiǎn)潔明了。

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python使用scrapy采集時(shí)偽裝成HTTP/1.1的方法

    Python使用scrapy采集時(shí)偽裝成HTTP/1.1的方法

    這篇文章主要介紹了Python使用scrapy采集時(shí)偽裝成HTTP/1.1的方法,實(shí)例分析了scrapy采集的使用技巧,非常具有實(shí)用價(jià)值,需要的朋友可以參考下
    2015-04-04
  • Python?Type?Hints?學(xué)習(xí)之從入門到實(shí)踐

    Python?Type?Hints?學(xué)習(xí)之從入門到實(shí)踐

    Type?Hints(類型注解)進(jìn)一步強(qiáng)化了Python是一門強(qiáng)類型語言的特性,它在?Python3.5?中第一次被引入。使用Type?Hints可以讓我們編寫出帶有類型的Python代碼,本文將詳細(xì)介紹一下Type?Hints,感興趣的小伙伴可以關(guān)注一下
    2021-11-11
  • Python?Pygame實(shí)戰(zhàn)之打磚塊游戲的實(shí)現(xiàn)

    Python?Pygame實(shí)戰(zhàn)之打磚塊游戲的實(shí)現(xiàn)

    這篇文章主要介紹了如何利用Python實(shí)現(xiàn)經(jīng)典的游戲—打磚塊。玩家操作一根螢?zāi)簧纤降摹鞍糇印保屢活w不斷彈來彈去的“球”在撞擊作為過關(guān)目標(biāo)消去的“磚塊”的途中不會(huì)落到螢?zāi)坏紫?。感興趣的小伙伴可以了解一下
    2022-03-03
  • Django中使用haystack+whoosh實(shí)現(xiàn)搜索功能

    Django中使用haystack+whoosh實(shí)現(xiàn)搜索功能

    這篇文章主要介紹了Django之使用haystack+whoosh實(shí)現(xiàn)搜索功能,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2019-10-10
  • 利用Selenium添加cookie實(shí)現(xiàn)自動(dòng)登錄的示例代碼(fofa)

    利用Selenium添加cookie實(shí)現(xiàn)自動(dòng)登錄的示例代碼(fofa)

    這篇文章主要介紹了利用Selenium添加cookie實(shí)現(xiàn)自動(dòng)登錄的示例代碼(fofa),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2021-05-05
  • Python中數(shù)據(jù)解壓縮的技巧分享

    Python中數(shù)據(jù)解壓縮的技巧分享

    在日常的數(shù)據(jù)處理和分析中,經(jīng)常會(huì)遇到需要對(duì)壓縮數(shù)據(jù)進(jìn)行解壓縮的情況,本文主要來和大家分享一下Python中數(shù)據(jù)解壓縮的相關(guān)技巧,希望對(duì)大家有所幫助
    2024-03-03
  • python中decimal模塊的具體使用

    python中decimal模塊的具體使用

    本文主要介紹了python中decimal模塊的具體使用,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2023-01-01
  • Python基礎(chǔ)之元組與文件知識(shí)總結(jié)

    Python基礎(chǔ)之元組與文件知識(shí)總結(jié)

    今天帶大家復(fù)習(xí)一下Python基礎(chǔ)知識(shí),文中詳細(xì)介紹了Python元祖與文件,對(duì)正在學(xué)習(xí)python基礎(chǔ)的小伙伴們很有幫助,需要的朋友可以參考下
    2021-05-05
  • pandas中的Timestamp只保留日期不顯示時(shí)間

    pandas中的Timestamp只保留日期不顯示時(shí)間

    這篇文章主要介紹了pandas中的Timestamp只保留日期不顯示時(shí)間,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2022-07-07
  • 使用python?pywin32模塊創(chuàng)建windows服務(wù)實(shí)例探究

    使用python?pywin32模塊創(chuàng)建windows服務(wù)實(shí)例探究

    這篇文章主要為大家介紹了使用python?pywin32模塊創(chuàng)建windows服務(wù)實(shí)現(xiàn)實(shí)例探究,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2024-01-01

最新評(píng)論

张家界市| 宿州市| 洞头县| 民和| 南雄市| 南华县| 荥经县| 仁布县| 乌兰县| 曲松县| 隆化县| 旬阳县| 五台县| 湘潭市| 涟源市| 平度市| 屯昌县| 长乐市| 四子王旗| 丰城市| 黑龙江省| 通州区| 华安县| 贵南县| 双流县| 屏东市| 宜良县| 孝义市| 江永县| 蒲城县| 博罗县| 陵川县| 民勤县| 安国市| 海宁市| 昌江| 九龙县| 元朗区| 故城县| 惠水县| 尖扎县|