基于python爬取鏈家二手房信息代碼示例
更新時(shí)間：2020年10月21日 10:47:27 作者：六月流火
這篇文章主要介紹了基于python爬取鏈家二手房信息代碼示例,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
基本環(huán)境配置
- python 3.6
- pycharm
- requests
- parsel
- time
相關(guān)模塊pip安裝即可
確定目標(biāo)網(wǎng)頁(yè)數(shù)據(jù)
哦豁，這個(gè)價(jià)格..................看到都覺(jué)得腦闊疼
通過(guò)開(kāi)發(fā)者工具，可以直接找到網(wǎng)頁(yè)返回的數(shù)據(jù)~
每一個(gè)二手房的數(shù)據(jù)，都在網(wǎng)頁(yè)的 li 標(biāo)簽里面，咱們可以獲取網(wǎng)頁(yè)返回的數(shù)據(jù)，然后通過(guò)解析，就可以獲取到自己想要的數(shù)據(jù)了~
獲取網(wǎng)頁(yè)數(shù)據(jù)
import requests
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response = requests.get(url=url, headers=headers)
解析網(wǎng)頁(yè)數(shù)據(jù)
import parsel
selector = parsel.Selector(response.text)
lis = selector.css('.sellListContent li')
dit = {}
for li in lis:
title = li.css('.title a::text').get()
dit['標(biāo)題'] = title
positionInfo = li.css('.positionInfo a::text').getall()
info = '-'.join(positionInfo)
dit['開(kāi)發(fā)商'] = info
houseInfo = li.css('.houseInfo::text').get()
dit['房子信息'] = houseInfo
followInfo = li.css('.followInfo::text').get()
dit['發(fā)布周期'] = followInfo
Price = li.css('.totalPrice span::text').get()
dit['售價(jià)/萬(wàn)'] = Price
unitPrice = li.css('.unitPrice span::text').get()
dit['單價(jià)'] = unitPrice
csv_writer.writerow(dit)
print(dit)
保存數(shù)據(jù)
import csv
f = open('二手房信息.csv', mode='a', encoding='utf-8-sig', newline='')
csv_writer = csv.DictWriter(f, fieldnames=['標(biāo)題', '開(kāi)發(fā)商', '房子信息', '發(fā)布周期', '售價(jià)/萬(wàn)', '單價(jià)'])
csv_writer.writeheader()
csv_writer.writerow(dit)
f.close()
以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了Python3的socket使用方法詳解,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02
python encrypt 實(shí)現(xiàn)AES加密的實(shí)例詳解
在本篇文章里小編給大家分享的是關(guān)于python encrypt 實(shí)現(xiàn)AES加密的實(shí)例內(nèi)容，有興趣的朋友們可以參考下。2020-02-02
Pycharm編輯器技巧之自動(dòng)導(dǎo)入模塊詳解
我們?cè)诰幊踢^(guò)程中經(jīng)常會(huì)不經(jīng)意的使用到一些尚未導(dǎo)入的類和模塊，在這種情況下Pycharm會(huì)幫助我們定位模塊文件位置并將其添加到導(dǎo)入列表中，這也就是所謂的自動(dòng)導(dǎo)入模塊功能。本文給大家介紹了關(guān)于Pycharm編輯器技巧之自動(dòng)導(dǎo)入模塊的相關(guān)資料,需要的朋友可以參考下。2017-07-07
python如何用columns參數(shù)獲取DataFrame各列的表頭名
這篇文章主要介紹了python如何用columns參數(shù)獲取DataFrame各列的表頭名問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-03-03
使用Pytorch Geometric進(jìn)行鏈接預(yù)測(cè)的實(shí)現(xiàn)代碼
PyTorch Geometric (PyG)是構(gòu)建圖神經(jīng)網(wǎng)絡(luò)模型和實(shí)驗(yàn)各種圖卷積的主要工具,在本文中我們將通過(guò)鏈接預(yù)測(cè)來(lái)對(duì)其進(jìn)行介紹,文中有詳細(xì)的代碼示例供大家參考,需要的朋友可以參考下2023-10-10
這篇文章主要為大家介紹了Python作用域和閉包，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來(lái)幫助2021-12-12
本篇文章主要介紹了Python格式化輸出%s和%d的實(shí)例案例，小編覺(jué)得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-05-05
python基于urllib實(shí)現(xiàn)按照百度音樂(lè)分類下載mp3的方法
這篇文章主要介紹了python基于urllib實(shí)現(xiàn)按照百度音樂(lè)分類下載mp3的方法,涉及Python使用urllib模塊操作頁(yè)面元素的相關(guān)技巧,需要的朋友可以參考下2015-05-05
Python 是當(dāng)今最流行的編程語(yǔ)言之一其流行的原因有很多種，Python 3.10 有幾個(gè)新的很酷的功能，使得使用 Python 成為一種更好的體驗(yàn)。在本文中，我將與您分享 6 個(gè)讓我最興奮的新特性，感興趣的朋友一起看看吧2021-10-10
PyTorch預(yù)訓(xùn)練的實(shí)現(xiàn)
這篇文章主要介紹了PyTorch預(yù)訓(xùn)練的實(shí)現(xiàn)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09