快捷導(dǎo)航

Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法【測試可用】

更新時(shí)間：2018年12月11日 11:52:37 作者：Sailfish23

這篇文章主要介紹了Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法,結(jié)合實(shí)例形式分析了Python3基于urllib及bs4庫針對(duì)簡書網(wǎng)進(jìn)行文章抓取相關(guān)操作技巧,需要的朋友可以參考下

本文實(shí)例講述了Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法。分享給大家供大家參考，具體如下：

from urllib import request
from bs4 import BeautifulSoup #Beautiful Soup是一個(gè)可以從HTML或XML文件中提取結(jié)構(gòu)化數(shù)據(jù)的Python庫
#構(gòu)造頭文件，模擬瀏覽器訪問
url="http://www.jianshu.com"
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url,headers=headers)
page_info = request.urlopen(page).read().decode('utf-8')#打開Url,獲取HttpResponse返回對(duì)象并讀取其ResposneBody
# 將獲取到的內(nèi)容轉(zhuǎn)換成BeautifulSoup格式，并將html.parser作為解析器
soup = BeautifulSoup(page_info, 'html.parser')
# 以格式化的形式打印html
#print(soup.prettify())
titles = soup.find_all('a', 'title')# 查找所有a標(biāo)簽中class='title'的語句
'''''
# 打印查找到的每一個(gè)a標(biāo)簽的string和文章鏈接
  for title in titles:
    print(title.string)
    print("http://www.jianshu.com" + title.get('href'))
'''
#open()是讀寫文件的函數(shù),with語句會(huì)自動(dòng)close()已打開文件
with open(r"D:\articles.txt","w") as file:    #在磁盤以只寫的方式打開/創(chuàng)建一個(gè)名為 articles 的txt文件
  for title in titles:
    file.write(title.string+'\n')
    file.write("http://www.jianshu.com" + title.get('href')+'\n\n')

本機(jī)測試運(yùn)行結(jié)果如下：

更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題：《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》

希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。

您可能感興趣的文章:

相關(guān)文章

python簡單實(shí)現(xiàn)圖片文字分割
這篇文章主要為大家詳細(xì)介紹了python簡單實(shí)現(xiàn)圖片文字分割，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2021-09-09
Python global全局變量函數(shù)詳解
本文詳解了global全局變量函數(shù)的用法，還有g(shù)lobal的作用。global全局變量在一個(gè)腳本中全部作用域都可以訪問，用法很方便，希望本文對(duì)大家有所幫助
2018-09-09
關(guān)于Python 的簡單柵格圖像邊界提取方法
今天小編就為大家分享一篇關(guān)于Python 的簡單柵格圖像邊界提取方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
2019-07-07
Python3-異步進(jìn)程回調(diào)函數(shù)(callback())介紹
這篇文章主要介紹了Python3-異步進(jìn)程回調(diào)函數(shù)(callback())介紹，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
2020-05-05
Python中使用異常處理來判斷運(yùn)行的操作系統(tǒng)平臺(tái)方法
這篇文章主要介紹了Python中使用異常處理來判斷運(yùn)行的操作系統(tǒng)平臺(tái)方法,這個(gè)方法比較新穎,,需要的朋友可以參考下
2015-01-01
python爬蟲學(xué)習(xí)筆記之pyquery模塊基本用法詳解
這篇文章主要介紹了python爬蟲學(xué)習(xí)筆記之pyquery模塊基本用法,結(jié)合實(shí)例形式詳細(xì)分析了python爬蟲pyquery模塊基本功能、用法及操作注意事項(xiàng),需要的朋友可以參考下
2020-04-04
python?opencv實(shí)現(xiàn)灰度圖和彩色圖的互相轉(zhuǎn)換
這篇文章主要給大家介紹了關(guān)于python?opencv實(shí)現(xiàn)灰度圖和彩色圖的互相轉(zhuǎn)換,文中通過實(shí)例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
2022-01-01
通過Python的filestools庫給圖片添加全圖水印的示例詳解
這篇文章主要介紹了通過Python的filestools庫給圖片添加全圖水印,本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
2023-04-04
python函數(shù)缺省值與引用學(xué)習(xí)筆記分享
有關(guān)一個(gè)在函數(shù)參數(shù)設(shè)置缺省值與引用的問題，這個(gè)問題是大多數(shù)Pythoner可能會(huì)忽視的問題，作個(gè)筆記，以備后閱，同時(shí)供需要的朋友參考
2013-02-02
Python代碼閱讀--列表元素邏輯判斷
本篇閱讀的三份代碼的功能分別是判斷列表中的元素是否都符合給定的條件；判斷列表中是否存在符合給定的條件的元素；以及判斷列表中的元素是否都不符合給定的條件,下面小編將在文章里詳細(xì)介紹，需要的朋友可以參考下
2021-09-09