Python探索之爬取電商售賣信息代碼示例
網(wǎng)絡(luò)爬蟲(chóng)(又被稱為網(wǎng)頁(yè)蜘蛛,網(wǎng)絡(luò)機(jī)器人,在FOAF社區(qū)中間,更經(jīng)常的稱為網(wǎng)頁(yè)追逐者),是一種按照一定的規(guī)則,自動(dòng)的抓取萬(wàn)維網(wǎng)信息的程序或者腳本。
下面有一個(gè)示例代碼,分享給大家:
#! /usr/bin/env python
#
encoding = 'utf-8'#
Filename: spider_58center_sth.py
from bs4
import BeautifulSoup
import time
import requests
url_58 = 'http://nj.58.com/?PGTID=0d000000-0000-0c5c-ffba-71f8f3f7039e&ClickID=1'
''
'
用于爬取電商售賣信息: 例為58同城電腦售賣信息 ''
'
def get_url_list(url):
web_data = requests.get(url)
soup = BeautifulSoup(web_data.text, 'lxml')
url = soup.select('td.t > a[class="t"]')
url_list = ''
for link in url:
link_n = link.get('href')
if 'zhuanzhuan' in link_n:
pass
else :
if 'jump' in link_n:
pass
else :
url_list = url_list + '\n' + link_n
print('url_list: %s' % url_list)
return url_list# 分類獲取目標(biāo)信息
def get_url_info():
url_list = get_url_list(url_58)
for url in url_list.split():
time.sleep(1)
web_datas = requests.get(url)
soup = BeautifulSoup(web_datas.text, 'lxml')
type = soup.select('#head > div.breadCrumb.f12 > span:nth-of-type(3) > a')
title = soup.select(' div.col_sub.mainTitle > h1')
date = soup.select('li.time')
price = soup.select('div.person_add_top.no_ident_top > div.per_ad_left > div.col_sub.summary > ul > '
'li:nth-of-type(1) > div.su_con > span.price.c_f50')
fineness = soup.select('div.col_sub.summary > u1 > li:nth-of-type(2) > div.su_con > span')
area = soup.select('div.col_sub.summary > u1 > li:nth-of-type(3) > div.su_con > span')
for typei, titlei, datei, pricei, finenessi, areai in zip(type, title, date, price, fineness, area): #做字典
data = {
'type': typei.get_text(),
'title': titlei.get_text(),
'date': datei.get_text(),
'price': pricei.get_text(),
'fineness': (finenessi.get_text()).strip(),
'area': list(areai.stripped_strings)
}
print(data)
get_url_info()
爬取商城商品售賣信息
總結(jié)
以上就是本文關(guān)于Python探索之爬取電商售賣信息代碼示例的全部?jī)?nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站:Python探索之自定義實(shí)現(xiàn)線程池、Python探索之ModelForm代碼詳解等,如有不足之處,歡迎留言指出。感謝朋友們對(duì)本站的支持!
- python爬蟲(chóng)_微信公眾號(hào)推送信息爬取的實(shí)例
- python爬蟲(chóng)爬取淘寶商品信息
- python登錄并爬取淘寶信息代碼示例
- Python爬取當(dāng)當(dāng)、京東、亞馬遜圖書(shū)信息代碼實(shí)例
- python爬蟲(chóng)爬取淘寶商品信息(selenum+phontomjs)
- 使用python爬蟲(chóng)實(shí)現(xiàn)網(wǎng)絡(luò)股票信息爬取的demo
- python3爬取各類天氣信息
- 一個(gè)簡(jiǎn)單的python爬蟲(chóng)程序 爬取豆瓣熱度Top100以內(nèi)的電影信息
- python爬取亞馬遜書(shū)籍信息代碼分享
- python3爬取淘寶信息代碼分析
- Python爬取附近餐館信息代碼示例
- python爬取哈爾濱天氣信息
相關(guān)文章
Python實(shí)現(xiàn)從SQL型數(shù)據(jù)庫(kù)讀寫(xiě)dataframe型數(shù)據(jù)的方法【基于pandas】
這篇文章主要介紹了Python實(shí)現(xiàn)從SQL型數(shù)據(jù)庫(kù)讀寫(xiě)dataframe型數(shù)據(jù)的方法,涉及Python基于pandas的數(shù)據(jù)庫(kù)讀寫(xiě)相關(guān)操作技巧,需要的朋友可以參考下2019-03-03
關(guān)于CUDA out of memory的解決方案
這篇文章主要介紹了關(guān)于CUDA out of memory的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-02-02
Python中實(shí)現(xiàn)限定抽獎(jiǎng)次數(shù)的機(jī)制的項(xiàng)目實(shí)踐
抽獎(jiǎng)系統(tǒng)作為吸引用戶、提高用戶參與度和活躍度的重要手段,本文主要介紹了Python中實(shí)現(xiàn)限定抽獎(jiǎng)次數(shù)的機(jī)制的項(xiàng)目實(shí)踐,具有一定的參考價(jià)值,感興趣的可以了解一下2024-05-05
上帝為你開(kāi)了一扇窗之Tkinter常用函數(shù)詳解
構(gòu)思了很長(zhǎng)一段時(shí)間,總感覺(jué)不夠有趣,于是打算出一個(gè)完整的系列,讓大家一起感受python的樂(lè)趣.這個(gè)系列著重以系統(tǒng)庫(kù)中的tkinter為中心來(lái)圍繞進(jìn)行編寫(xiě).因此我們的第一步是導(dǎo)入模塊, 第一節(jié)就來(lái)為大家建立一個(gè)窗口 ,需要的朋友可以參考下2021-06-06
C++通過(guò)內(nèi)嵌解釋器調(diào)用Python及間接調(diào)用Python三方庫(kù)
本文主要介紹了C++通過(guò)內(nèi)嵌解釋器調(diào)用Python及間接調(diào)用Python三方庫(kù),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-12-12
python中實(shí)現(xiàn)延時(shí)回調(diào)普通函數(shù)示例代碼
這篇文章主要給大家介紹了關(guān)于python中實(shí)現(xiàn)延時(shí)回調(diào)普通函數(shù)的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧。2017-09-09
python實(shí)現(xiàn)簡(jiǎn)單的文字識(shí)別
這篇文章主要為大家詳細(xì)介紹了基于百度云文字識(shí)別API,python實(shí)現(xiàn)的簡(jiǎn)單文字識(shí)別,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-11-11
16中Python機(jī)器學(xué)習(xí)類別特征處理方法總結(jié)
類別型特征(categorical?feature)主要是指職業(yè),血型等在有限類別內(nèi)取值的特征。在這篇文章中,小編將給大家分享一下16種類別特征處理方法,需要的可以參考一下2022-09-09

