最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python實(shí)現(xiàn)的爬取網(wǎng)易動(dòng)態(tài)評(píng)論操作示例

 更新時(shí)間:2018年06月06日 09:59:24   作者:小傲嬌的認(rèn)真  
這篇文章主要介紹了Python實(shí)現(xiàn)的爬取網(wǎng)易動(dòng)態(tài)評(píng)論操作,結(jié)合實(shí)例形式分析了Python針對(duì)網(wǎng)易評(píng)論正則爬取及json格式數(shù)據(jù)轉(zhuǎn)換、提取等相關(guān)操作技巧,需要的朋友可以參考下

本文實(shí)例講述了Python實(shí)現(xiàn)的爬取網(wǎng)易動(dòng)態(tài)評(píng)論操作。分享給大家供大家參考,具體如下:

打開(kāi)網(wǎng)易的一條新聞的源代碼后,發(fā)現(xiàn)并沒(méi)有所要得評(píng)論內(nèi)容。

經(jīng)過(guò)學(xué)習(xí)后發(fā)現(xiàn),源代碼只是一個(gè)完整頁(yè)面的“骨架”,而我所需要的內(nèi)容是它的填充物,這時(shí)候需要打開(kāi)工具里面的開(kāi)發(fā)人員工具,從加載的“骨肉”里找到我所要的評(píng)論

圈住的是類(lèi)型

找到之后打開(kāi)網(wǎng)頁(yè),發(fā)現(xiàn)json類(lèi)型的格式,用我已學(xué)過(guò)的正則,bs都不好鬧,于是便去了解了正則,發(fā)現(xiàn)把json的格式換化成python的格式后,用列表提取內(nèi)容是一條明朗的道路。。。

但是在細(xì)致分析的時(shí)候也發(fā)現(xiàn)了問(wèn)題

從這里獲得每條評(píng)論時(shí),感覺(jué)有點(diǎn)不對(duì),觀(guān)察發(fā)現(xiàn)如果是回復(fù)評(píng)論的評(píng)論會(huì)出現(xiàn)他回復(fù)那條評(píng)論的數(shù)據(jù),于是用正則提取了一下

最終的代碼如下:

#coding=utf-8
__author__ = 'kongmengfan123'
import urllib
import re
import json
import time
def gethothtml(url):#最熱評(píng)論
  page=urllib.urlopen(url)
  html=page.read()
  get_json(html)
def gethnewtml():#最新評(píng)論有5頁(yè)
  for i in range(1,6):
    url = 'http://comment.news.163.com/api/v1/products/a2869674571f77b5a0867c3d71db5856/threads/C4QFIJNS0001875O/comments/newList?offset=%d&limit=30&showLevelThreshold=72&headLimit=1&tailLimit=2&callback=getData&ibc=newspc&_=1478010624978'%i*30
    page = urllib.urlopen(url)
    html=page.read()
    time.sleep(1)
    get_json(html)
def get_json(json_):
  end_=re.compile(r'\);')#將json網(wǎng)頁(yè)轉(zhuǎn)化成python數(shù)據(jù)
  begain=re.compile(r'getData\(')
  json_=begain.sub('',json_)
  json_=end_.sub('',json_)
  ajson=json.loads(json_)
  lis=ajson["commentIds"]#獲得每條評(píng)論的鍵
  n=0
  for i in range(1,len(lis)):
    try:
      xulie=re.compile('\d{10,}')#取得準(zhǔn)確評(píng)論的鍵(去掉回復(fù))
      bia=re.findall(xulie,lis[n])
      w.write(ajson['comments'][bia[len(bia)-1]]['user']['nickname'].encode('utf-8')+'|')
    except KeyError:
      w.write(ajson['comments'][bia[len(bia)-1]]['user']['location'].encode('utf-8')+'|')
    if (len(lis[n])>13):
      xulie=re.compile('\d{10,}')
      bia=re.findall(xulie,lis[n])
      w.write(ajson['comments'][bia[len(bia)-1]]['content'].encode('utf-8')+'\n')
    else:
       w.write(ajson['comments'][lis[n]]['content'].encode('utf-8')+'\n')
    n=n+1
  return lis
w=open('wangyi.txt','w')
w.write('用戶(hù)名'+'|'+'熱門(mén)評(píng)論'+'\n')
hot_=gethothtml('http://comment.news.163.com/api/v1/products/a2869674571f77b5a0867c3d71db5856/threads/C4QFIJNS0001875O/comments/hotList?offset=0&limit=40&showLevelThreshold=72&headLimit=1&tailLimit=2&callback=getData&ibc=newspc')
w.write('用戶(hù)名'+'|'+'最新評(píng)論'+'\n')
gethnewtml()
w.close()

成功。

更多關(guān)于Python相關(guān)內(nèi)容可查看本站專(zhuān)題:《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門(mén)與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總

希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。

相關(guān)文章

最新評(píng)論

大英县| 德保县| 镇原县| 韶关市| 个旧市| 陵川县| 高平市| 广平县| 文山县| 沁源县| 库车县| 青神县| 来凤县| 洪洞县| 长阳| 贵定县| 孝感市| 南陵县| 昔阳县| 香格里拉县| 高雄市| 那曲县| 驻马店市| 崇义县| 福鼎市| 铜山县| 琼海市| 邢台县| 潍坊市| 苍梧县| 合水县| 宁德市| 上林县| 贡觉县| 板桥市| 鸡东县| 慈利县| 仁化县| 曲松县| 越西县| 镇远县|