最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

網(wǎng)頁(yè)爬蟲之cookie自動(dòng)獲取及過(guò)期自動(dòng)更新的實(shí)現(xiàn)方法

 更新時(shí)間:2018年03月06日 10:56:42   作者:smile_milk1992  
這篇文章主要介紹了網(wǎng)頁(yè)爬蟲之cookie自動(dòng)獲取及過(guò)期自動(dòng)更新的實(shí)現(xiàn)方法,需要的朋友可以參考下

本文實(shí)現(xiàn)cookie的自動(dòng)獲取,及cookie過(guò)期自動(dòng)更新。

社交網(wǎng)站中的很多信息需要登錄才能獲取到,以微博為例,不登錄賬號(hào),只能看到大V的前十條微博。保持登錄狀態(tài),必須要用到Cookie。以登錄www.weibo.cn 為例:

在chrome中輸入:http://login.weibo.cn/login/

分析控制臺(tái)的Headers的請(qǐng)求返回,會(huì)看到weibo.cn有幾組返回的cookie。

實(shí)現(xiàn)步驟:

1,采用selenium自動(dòng)登錄獲取cookie,保存到文件;

2,讀取cookie,比較cookie的有效期,若過(guò)期則再次執(zhí)行步驟1;

3,在請(qǐng)求其他網(wǎng)頁(yè)時(shí),填入cookie,實(shí)現(xiàn)登錄狀態(tài)的保持。

1,在線獲取cookie

采用selenium + PhantomJS 模擬瀏覽器登錄,獲取cookie;

cookies一般會(huì)有多個(gè),逐個(gè)將cookie存入以.weibo后綴的文件。

def get_cookie_from_network():
 from selenium import webdriver
 url_login = 'http://login.weibo.cn/login/' 
 driver = webdriver.PhantomJS()
 driver.get(url_login)
 driver.find_element_by_xpath('//input[@type="text"]').send_keys('your_weibo_accout') # 改成你的微博賬號(hào)
 driver.find_element_by_xpath('//input[@type="password"]').send_keys('your_weibo_password') # 改成你的微博密碼
 driver.find_element_by_xpath('//input[@type="submit"]').click() # 點(diǎn)擊登錄
 # 獲得 cookie信息
 cookie_list = driver.get_cookies()
 print cookie_list
 cookie_dict = {}
 for cookie in cookie_list:
  #寫入文件
  f = open(cookie['name']+'.weibo','w')
  pickle.dump(cookie, f)
  f.close()
  if cookie.has_key('name') and cookie.has_key('value'):
   cookie_dict[cookie['name']] = cookie['value']
 return cookie_dict

2,從文件中獲取cookie

從當(dāng)前目錄中遍歷以.weibo結(jié)尾的文件,即cookie文件。采用pickle解包成dict,比較expiry值與當(dāng)前時(shí)間,若過(guò)期則返回為空;

def get_cookie_from_cache():
 cookie_dict = {}
 for parent, dirnames, filenames in os.walk('./'):
  for filename in filenames:
   if filename.endswith('.weibo'):
    print filename
    with open(self.dir_temp + filename, 'r') as f:
     d = pickle.load(f)
     if d.has_key('name') and d.has_key('value') and d.has_key('expiry'):
      expiry_date = int(d['expiry'])
      if expiry_date > (int)(time.time()):
       cookie_dict[d['name']] = d['value']
      else:
       return {}
 return cookie_dict

3,若緩存cookie過(guò)期,則再次從網(wǎng)絡(luò)獲取cookie

def get_cookie():
 cookie_dict = get_cookie_from_cache()
 if not cookie_dict:
  cookie_dict = get_cookie_from_network()
 return cookie_dict

4,帶cookie請(qǐng)求微博其他主頁(yè)

def get_weibo_list(self, user_id):
 import requests
 from bs4 import BeautifulSoup as bs
 cookdic = get_cookie()
 url = 'http://weibo.cn/stocknews88' 
 headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.57 Safari/537.36'}
 timeout = 5
 r = requests.get(url, headers=headers, cookies=cookdic,timeout=timeout)
 soup = bs(r.text, 'lxml')
 ...
 # 用BeautifulSoup 解析網(wǎng)頁(yè)
 ...

總結(jié)

以上所述是小編給大家介紹的網(wǎng)頁(yè)爬蟲之cookie自動(dòng)獲取及過(guò)期自動(dòng)更新的實(shí)現(xiàn)方法,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!

相關(guān)文章

最新評(píng)論

天门市| 嵊泗县| 福鼎市| 信阳市| 烟台市| 通州区| 岳阳县| 饶河县| 莱西市| 嵊泗县| 桦甸市| 咸宁市| 乌鲁木齐县| 邛崃市| 抚宁县| 多伦县| 社会| 新河县| 遵义市| 梁山县| 盐源县| 合川市| 蓬溪县| 海门市| 密云县| 德阳市| 虞城县| 汾阳市| 登封市| 德钦县| 舞钢市| 察隅县| 昔阳县| 临清市| 英德市| 木兰县| 华安县| 乐业县| 竹北市| 武平县| 宁阳县|