python根據(jù)用戶需求輸入想爬取的內(nèi)容及頁數(shù)爬取圖片方法詳解

更新時間：2020年08月03日 17:24:57 作者：派大星..

這篇文章主要介紹了python根據(jù)用戶需求輸入想爬取的內(nèi)容及頁數(shù)爬取圖片方法詳解，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧

本次小編向大家介紹的是根據(jù)用戶的需求輸入想爬取的內(nèi)容及頁數(shù)。

主要步驟：

1.提示用戶輸入爬取的內(nèi)容及頁碼。
2.根據(jù)用戶輸入，獲取網(wǎng)址列表。
3.模擬瀏覽器向服務器發(fā)送請求，獲取響應。
4.利用xpath方法找到圖片的標簽。
5.保存數(shù)據(jù)。
代碼用面向過程的形式編寫的。

關鍵字：requests庫，xpath,面向過程

現(xiàn)在就來講解代碼書寫的過程：

1.導入模塊

import parsel # 該模塊主要用來將請求后的字符串格式解析成re,xpath,css進行內(nèi)容的匹配
import requests # 爬蟲主要的包
from urllib.request import urlretrieve # 本文用來下載圖片
import os # 標準庫，本文用來新建文件夾

每個模塊的作用都已經(jīng)備注了。

2.提示用戶輸入內(nèi)容和頁數(shù)

if not os.path.exists("王一博圖片"):
  os.mkdir("王一博圖片") # 判斷有沒有該文件夾，如果沒有就創(chuàng)建改文件夾
k = input("請輸入你想搜索的關鍵字：")
num = int(input("請輸入你想搜索的頁數(shù)："))

3.準備好url和header

header = {"user-agent":
       "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.89 Mobile Safari/537.36"
     }
base_url = "https://www.duitang.com/search/?kw=" + k + "&type=feed#!s-p"
title_url = []
n = 0

user-agent是服務器識別瀏覽器的重要參數(shù)，我們就用這個來蒙騙服務器，user-agent在瀏覽器里可以找到

在這里插入圖片描述

那么現(xiàn)在我們就關注右邊

在這里插入圖片描述

這樣header就找到了，注意要以字典的形式

4.發(fā)送請求、

for i in range(num):
  title_url = base_url + str(i)
  respons = requests.get(title_url, headers=header).text
  html = parsel.Selector(respons) # 解析數(shù)據(jù) -- parsel 轉化為Selector對象，Selector對象具有xpath的方法，能夠對轉化的數(shù)據(jù)進行處理
  pic_url = html.xpath('//div[@class="mbpho"]/a/img/@src').extract()

一切準備就緒后，就可以發(fā)送請求了。request.get.text返回的是網(wǎng)頁的源代碼，然后將源代碼轉換為Selector對象，再通過xpath的方法找到圖片的網(wǎng)址。

在這里插入圖片描述

xpath的方法可以參考：https://zhuanlan.zhihu.com/p/29436838

5.保存數(shù)據(jù)

獲取圖片的圖片的鏈接后，我們就可以保存了。

  for url in pic_url:
    n = n + 1
    file_path = "王一博圖片" + '/' + str(n)+".jpg"
    urlretrieve(url, file_path) # 下載圖片，具體的用法可以去搜索下，很簡單的
    print("第%d張圖片下載成功" % n)

注意：這里的for循環(huán)是在上面的循環(huán)里嵌套的。
最后來看看全部的代碼吧！

import parsel # 該模塊主要用來將請求后的字符串格式解析成re,xpath,css進行內(nèi)容的匹配
import requests
from urllib.request import urlretrieve # 本文用來下載圖片
import os # 標準庫，本文用來新建文件夾

if not os.path.exists("王一博圖片"):
  os.mkdir("王一博圖片") # 判斷有沒有該文件夾，如果沒有就創(chuàng)建改文件夾
k = input("請輸入你想搜索的關鍵字：")
num = int(input("請輸入你想搜索的頁數(shù)："))
header = {"user-agent":
       "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.89 Mobile Safari/537.36"
     }
base_url = "https://www.duitang.com/search/?kw=" + k + "&type=feed#!s-p"
title_url = []
n = 0
for i in range(num):
  title_url = base_url + str(i)
  respons = requests.get(title_url, headers=header).text
  html = parsel.Selector(respons)
  pic_url = html.xpath('//div[@class="mbpho"]/a/img/@src').extract()
  # print(pic_url)
  for url in pic_url:
    n = n + 1
    file_path = "王一博圖片" + '/' + str(n)+".jpg"
    urlretrieve(url, file_path) # 下載圖片，具體的用法可以去搜索下，很簡單的
    print("第%d張圖片下載成功" % n)

來看看運行的結果，以搜索王一博，搜索5頁為例。

在這里插入圖片描述