最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python基于requests庫爬取網(wǎng)站信息

 更新時間:2020年03月02日 11:15:14   作者:江武555  
這篇文章主要介紹了python基于requests庫爬取網(wǎng)站信息,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下

requests庫是一個簡介且簡單的處理HTTP請求的第三方庫

get()是獲取網(wǎng)頁最常用的方式,其基本使用方式如下

使用requests庫獲取HTML頁面并將其轉(zhuǎn)換成字符串后,需要進(jìn)一步解析HTML頁面格式,這里我們常用的就是beautifulsoup4庫,用于解析和處理HTML和XML

下面這段代碼便是爬取百度的信息并簡單輸出百度的界面信息

import requests
from bs4 import BeautifulSoup
r=requests.get('http://www.baidu.com')
r.encoding=None
result=r.text
bs=BeautifulSoup(result,'html.parser')
print(bs.title)
print(bs.title.text)
import requests
from bs4 import BeautifulSoup

#用來解決亂碼現(xiàn)象,所以編寫爬取信息的代碼最好帶上(輸出出現(xiàn)亂碼或者UnicodeEncodeError:'gbk'codec can't encode character) 
import io   
import sys
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030')

#用來防止反爬取,可以了解一下
headers={"User-Agent" : "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1.6)",
  "Accept" : "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
  "Accept-Language" : "en-us",
  "Connection" : "keep-alive",
  "Accept-Charset" : "GB2312,utf-8;q=0.7,*;q=0.7"
}

#獲取51job網(wǎng)站的基本信息
r=requests.get('https://search.51job.com/list/000000,000000,0000,00,9,99,python,2,1.html?lang=c&stype=&postchannel=0000&workyear=99&cotype=99&degreefrom=99&jobterm=99&companysize=99&providesalary=99&lonlat=0%2C0&radius=-1&ord_field=0&confirmdate=9&fromType=&dibiaoid=0&address=&line=&specialarea=00&from=&welfare=')
r.encoding=r.apparent_encoding
result=r.text
bs=BeautifulSoup(result,'html.parser')
print(bs.prettify())

u1=bs.find_all('u1',attrs={'class':'item_con_list'})  #這部分代碼便是我們爬取的目標(biāo),51job網(wǎng)站上關(guān)于python職業(yè)的薪資
print(len(u1))
li=bs.find_all('span',attrs={'class':'t4'})
for l in li:
  print(l.text)

上面這段代碼便是爬取51job網(wǎng)站上的與python相關(guān)職業(yè)的薪資

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python+Tkinter實現(xiàn)RGB數(shù)值轉(zhuǎn)換為16進(jìn)制碼

    Python+Tkinter實現(xiàn)RGB數(shù)值轉(zhuǎn)換為16進(jìn)制碼

    這篇文章主要為大家詳細(xì)介紹了Python如何利用Tkinter編寫一個RGB數(shù)值轉(zhuǎn)換為16進(jìn)制碼的小工具,文中的示例代講解詳細(xì),感興趣的小伙伴可以了解一下
    2023-01-01
  • 自制Python淘寶秒殺搶購腳本雙十一百分百中

    自制Python淘寶秒殺搶購腳本雙十一百分百中

    年年雙十一,年年搶不到,今年小編自制Python淘寶秒殺搶購腳本,百分百中,下面小編把我的實現(xiàn)思路分享給大家,有興趣的朋友借鑒下吧
    2021-11-11
  • Python文件如何引入?詳解引入Python文件步驟

    Python文件如何引入?詳解引入Python文件步驟

    我們整理了一篇關(guān)于引入Python文件的一個基礎(chǔ)知識點內(nèi)容,如果你是一個python的學(xué)習(xí)者,參考一下吧。
    2018-12-12
  • python 實現(xiàn)矩陣上下/左右翻轉(zhuǎn),轉(zhuǎn)置的示例

    python 實現(xiàn)矩陣上下/左右翻轉(zhuǎn),轉(zhuǎn)置的示例

    今天小編就為大家分享一篇python 實現(xiàn)矩陣上下/左右翻轉(zhuǎn),轉(zhuǎn)置的示例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-01-01
  • python計算機視覺opencv卡號識別示例詳解

    python計算機視覺opencv卡號識別示例詳解

    這篇文章主要為大家介紹了python計算機視覺opencv卡號識別的實現(xiàn)示例詳解,有需要的朋友可以借鑒參考下 希望能夠有所幫助,祝大家多多進(jìn)步
    2021-11-11
  • 一篇文章詳解json中文編碼問題

    一篇文章詳解json中文編碼問題

    在使用Flask編寫后端接口時,如果設(shè)置的接口返回格式是JSON,可能會遇到中文編碼問題,這篇文章主要介紹了json中文編碼問題的相關(guān)資料,需要的朋友可以參考下
    2025-03-03
  • LyScript實現(xiàn)對內(nèi)存堆棧掃描的方法詳解

    LyScript實現(xiàn)對內(nèi)存堆棧掃描的方法詳解

    LyScript插件中提供了三種基本的堆棧操作方法,其中push_stack用于入棧,pop_stack用于出棧,peek_stac可用于檢查指定堆棧位置處的內(nèi)存參數(shù)。所以本文將利用這一特性實現(xiàn)對內(nèi)存堆棧掃描,感興趣的可以了解一下
    2022-08-08
  • Python接口自動化淺析登錄接口測試實戰(zhàn)

    Python接口自動化淺析登錄接口測試實戰(zhàn)

    本文主要接好了python接口自動化的接口概念、接口用例設(shè)計及登錄,跟隨本文章來進(jìn)行一個接口用例設(shè)計及登錄接口測試實戰(zhàn),有需要的朋友可以參考下
    2021-08-08
  • Python模塊對Redis數(shù)據(jù)庫的連接與使用講解

    Python模塊對Redis數(shù)據(jù)庫的連接與使用講解

    這篇文章主要介紹了Python模塊對Redis數(shù)據(jù)庫的連接與使用,通過實例代碼給大家介紹了Python連接Redis數(shù)據(jù)庫方法,Python使用連接池連接Redis數(shù)據(jù)庫方法,感興趣的朋友跟隨小編一起看看吧
    2021-07-07
  • python利用文件讀寫編寫一個博客

    python利用文件讀寫編寫一個博客

    這篇文章主要為大家詳細(xì)介紹了python利用文件讀寫編寫一個博客,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2021-08-08

最新評論

保康县| 石狮市| 宁海县| 大方县| 从江县| 雅安市| 五大连池市| 亳州市| 岳阳市| 通许县| 高雄市| 洛阳市| 湾仔区| 穆棱市| 安宁市| 嘉义市| 繁峙县| 汕尾市| 工布江达县| 江门市| 千阳县| 镇雄县| 西乌珠穆沁旗| 黄大仙区| 南川市| 甘洛县| 兴宁市| 许昌市| 宁阳县| 双鸭山市| 光泽县| 黄石市| 河南省| 高淳县| 民县| 鄱阳县| 六安市| 北票市| 乌什县| 孝感市| 黄龙县|