Python爬蟲抓取指定網(wǎng)頁圖片代碼實(shí)例
想要爬取指定網(wǎng)頁中的圖片主要需要以下三個(gè)步驟:
(1)指定網(wǎng)站鏈接,抓取該網(wǎng)站的源代碼(如果使用google瀏覽器就是按下鼠標(biāo)右鍵 -> Inspect-> Elements 中的 html 內(nèi)容)
(2)根據(jù)你要抓取的內(nèi)容設(shè)置正則表達(dá)式以匹配要抓取的內(nèi)容
(3)設(shè)置循環(huán)列表,重復(fù)抓取和保存內(nèi)容
以下介紹了兩種方法實(shí)現(xiàn)抓取指定網(wǎng)頁中圖片
(1)方法一:使用正則表達(dá)式過濾抓到的 html 內(nèi)容字符串
# 第一個(gè)簡(jiǎn)單的爬取圖片的程序
import urllib.request # python自帶的爬操作url的庫
import re # 正則表達(dá)式
# 該方法傳入url,返回url的html的源代碼
def getHtmlCode(url):
# 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求
headers = {
'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \
AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
}
# 將headers頭部添加到url,模擬瀏覽器訪問
url = urllib.request.Request(url, headers=headers)
# 將url頁面的源代碼保存成字符串
page = urllib.request.urlopen(url).read()
# 字符串轉(zhuǎn)碼
page = page.decode('UTF-8')
return page
# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)
def getImage(page):
# [^\s]*? 表示最小匹配, 兩個(gè)括號(hào)表示列表中有兩個(gè)元組
# imageList = re.findall(r'(https:[^\s]*?(png))"', page)
imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page)
x = 0
# 循環(huán)列表
for imageUrl in imageList:
try:
print('正在下載: %s' % imageUrl[0])
# 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果
image_save_path = './image/%d.png' % x
# 下載圖片并且保存到指定文件夾中
urllib.request.urlretrieve(imageUrl[0], image_save_path)
x = x + 1
except:
continue
pass
if __name__ == '__main__':
# 指定要爬取的網(wǎng)站
url = "https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html"
# 得到該網(wǎng)站的源代碼
page = getHtmlCode(url)
# 爬取該網(wǎng)站的圖片并且保存
getImage(page)
# print(page)
注意,代碼中需要修改的就是imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"', page) 這一塊內(nèi)容,如何設(shè)計(jì)正則表達(dá)式需要根據(jù)你想要抓取的內(nèi)容設(shè)置。我的設(shè)計(jì)來源如下:

可以看到,因?yàn)檫@個(gè)網(wǎng)頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r'(https:[^\s]*?(png))"', page)也是可以的。
(2)方法二:使用 BeautifulSoup 庫解析 html 網(wǎng)頁
from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數(shù)庫,是Python內(nèi)置的網(wǎng)頁分析工具
import urllib # python自帶的爬操作url的庫
# 該方法傳入url,返回url的html的源代碼
def getHtmlCode(url):
# 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個(gè)偽裝的頭部請(qǐng)求
headers = {
'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \
AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
}
# 將headers頭部添加到url,模擬瀏覽器訪問
url = urllib.request.Request(url, headers=headers)
# 將url頁面的源代碼保存成字符串
page = urllib.request.urlopen(url).read()
# 字符串轉(zhuǎn)碼
page = page.decode('UTF-8')
return page
# 該方法傳入html的源代碼,通過截取其中的img標(biāo)簽,將圖片保存到本機(jī)
def getImage(page):
# 按照html格式解析頁面
soup = BeautifulSoup(page, 'html.parser')
# 格式化輸出DOM樹的內(nèi)容
print(soup.prettify())
# 返回所有包含img標(biāo)簽的列表,因?yàn)樵贖tml文件中圖片的插入呈現(xiàn)形式是<img src="..." alt=".." />
imgList = soup.find_all('img')
x = 0
# 循環(huán)找到的圖片列表,注意,這里手動(dòng)設(shè)置從第2張圖片開始,是因?yàn)槲襠ebug看到了第一張圖片不是我想要的圖片
for imgUrl in imgList[1:]:
print('正在下載: %s ' % imgUrl.get('src'))
# 得到scr的內(nèi)容,這里返回的就是Url字符串鏈接,如'https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png'
image_url = imgUrl.get('src')
# 這個(gè)image文件夾需要先創(chuàng)建好才能看到結(jié)果
image_save_path = './image/%d.png' % x
# 下載圖片并且保存到指定文件夾中
urllib.request.urlretrieve(image_url, image_save_path)
x = x + 1
if __name__ == '__main__':
# 指定要爬取的網(wǎng)站
url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html'
# 得到該網(wǎng)站的源代碼
page = getHtmlCode(url)
# 爬取該網(wǎng)站的圖片并且保存
getImage(page)
這兩種方法各有利弊,我覺得可以靈活結(jié)合使用這兩種方法,比如先使用方法2中指定標(biāo)簽的方法縮小要尋找的內(nèi)容范圍,然后再使用正則表達(dá)式匹配想要的內(nèi)容,這樣做起來更加簡(jiǎn)潔明了。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python使用scrapy采集時(shí)偽裝成HTTP/1.1的方法
這篇文章主要介紹了Python使用scrapy采集時(shí)偽裝成HTTP/1.1的方法,實(shí)例分析了scrapy采集的使用技巧,非常具有實(shí)用價(jià)值,需要的朋友可以參考下2015-04-04
Python?Type?Hints?學(xué)習(xí)之從入門到實(shí)踐
Type?Hints(類型注解)進(jìn)一步強(qiáng)化了Python是一門強(qiáng)類型語言的特性,它在?Python3.5?中第一次被引入。使用Type?Hints可以讓我們編寫出帶有類型的Python代碼,本文將詳細(xì)介紹一下Type?Hints,感興趣的小伙伴可以關(guān)注一下2021-11-11
Python?Pygame實(shí)戰(zhàn)之打磚塊游戲的實(shí)現(xiàn)
這篇文章主要介紹了如何利用Python實(shí)現(xiàn)經(jīng)典的游戲—打磚塊。玩家操作一根螢?zāi)簧纤降摹鞍糇印保屢活w不斷彈來彈去的“球”在撞擊作為過關(guān)目標(biāo)消去的“磚塊”的途中不會(huì)落到螢?zāi)坏紫?。感興趣的小伙伴可以了解一下2022-03-03
Django中使用haystack+whoosh實(shí)現(xiàn)搜索功能
這篇文章主要介紹了Django之使用haystack+whoosh實(shí)現(xiàn)搜索功能,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-10-10
利用Selenium添加cookie實(shí)現(xiàn)自動(dòng)登錄的示例代碼(fofa)
這篇文章主要介紹了利用Selenium添加cookie實(shí)現(xiàn)自動(dòng)登錄的示例代碼(fofa),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-05-05
Python基礎(chǔ)之元組與文件知識(shí)總結(jié)
今天帶大家復(fù)習(xí)一下Python基礎(chǔ)知識(shí),文中詳細(xì)介紹了Python元祖與文件,對(duì)正在學(xué)習(xí)python基礎(chǔ)的小伙伴們很有幫助,需要的朋友可以參考下2021-05-05
pandas中的Timestamp只保留日期不顯示時(shí)間
這篇文章主要介紹了pandas中的Timestamp只保留日期不顯示時(shí)間,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-07-07
使用python?pywin32模塊創(chuàng)建windows服務(wù)實(shí)例探究
這篇文章主要為大家介紹了使用python?pywin32模塊創(chuàng)建windows服務(wù)實(shí)現(xiàn)實(shí)例探究,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01

