Python解決爬蟲程序卡死問題
前言:
之前的文章我們已經(jīng)開啟了爬蟲程序的exe之旅,但是我們最終實現(xiàn)的程序存在一個非常大的問題,當(dāng)進行網(wǎng)絡(luò)請求的時候,程序卡死,直到數(shù)據(jù)請求回來之后,程序才會從假死狀態(tài)解脫出來,今天這篇博客核心將這個問題解決掉。
導(dǎo)致該問題產(chǎn)生的原因是GUI程序在執(zhí)行高IO操作的時候很容易出現(xiàn)假死和無響應(yīng)的狀態(tài),通用解決辦法就是多線程。
如果想擴展開本知識點的學(xué)習(xí),可以在搜索引擎搜索 tkinter假死,未響應(yīng)等關(guān)鍵字即可
簡單粗暴解決問題
找到上節(jié)課需要修改的代碼部分 :

修改成如下代碼,立馬解決問題:
def thread_down(func, *args):
# 創(chuàng)建線程
t = threading.Thread(target=func, args=args)
t.setDaemon(True)
# 啟動
t.start()
# 創(chuàng)建按鈕
btn = tk.Button(win,text = '分析下載', command = lambda :thread_down(down_img))當(dāng)然記得在頭部導(dǎo)入線程模塊:
import threading
對于咱們常寫爬蟲的Coder來說,多線程就不用過多的解釋了,非常容易理解,注意下t.setDaemon(True)
通過 t.setDaemon(True) 將子線程設(shè)置為守護進程(默認(rèn)False),主線程結(jié)束后,守護子線程隨之中止。
以上是最簡單的解決辦法了,順著這個思路慢慢的修改你的程序即可
增加一點點難度的解決方案
該方案假設(shè)你的爬蟲比較復(fù)雜一些,用的是類去編寫的,那么增加一個類文件即可,該類繼承 threading.Thread 類
class MyThread(threading.Thread):
def __init__(self, func, *args):
super().__init__()
self.func = func
self.args = args
self.setDaemon(True)
self.start() # 構(gòu)造方法中啟動線程
def run(self):
self.func(*self.args)
# 創(chuàng)建按鈕
btn = tk.Button(win,text = '分析下載', command = lambda :MyThread(down_img))上述解決辦法也比較簡單,重點依舊是將I/O耗時操作放置到一個新的線程中去
我們重點注意在上述的代碼中tk.Button(win,text = '分析下載', command = lambda :MyThread(down_img))中我們給command綁定值的時候用到的lambda函數(shù)
lambda這個大家都知道是匿名函數(shù),在這里的用法注意是tk要求的。
他表示 傳參數(shù)Button綁定事件,文檔中大概意思如下:
我們使用Button傳遞數(shù)值時,需要用:
lambda: 功能函數(shù)(var1, var2, ……)
所以大家在使用的時候,注意該問題哦~~
我們繼續(xù)給爬蟲程序加點料
上面已經(jīng)解決了一個小問題,這些當(dāng)然是不夠的,我們的程序豈止于此,接下來,我們每次訪問頁面的時候,網(wǎng)頁源碼的圖片規(guī)則肯定是不能確定的,所以用戶可以自定義正則表達式去匹配數(shù)據(jù),就是我們接下來改進的方向啦~
先把程序窗口擴大一些
# 窗體大小設(shè)置 width = 800 height = 600
增加一個文本框和一個多行輸入框:
lbtip = tk.Label(win, text='請輸入正則表達式:') # 添加到窗口中 lbtip.grid(row=1,column=3,pady=20) # 創(chuàng)建一個多行文本框 - 用于輸入正則表達式 t1 = tk.Text(win, width=40,height=20) # 添加到窗口中 t1.grid(row=2,column=3,padx=20,columnspan=3)
看看布局,細(xì)節(jié)可以在調(diào)整一下:

獲取正則表達式輸入框數(shù)據(jù):
這個地方一個小知識點需要補充下,在tkiner中有兩種文本框,單行和多行,對于里面內(nèi)容的獲取方式也不同
#get()方法獲取Entry 文本框的內(nèi)容:
txt = entry.get()
#get()方法獲取Text 文本框的內(nèi)容:
txt = text.get("0.0", "end")Text.get(start, end) 的用法:
Text.get("0.0", "end") 解析: 第一個參數(shù)‘0.0’是指從第0行第0列開始讀?。?lsquo;0.3’表示從第0行第3列開始讀?。诙€參數(shù)end表示最后一個字符
寫完測試下:

測試完畢:

尾聲
tkiner其實寫起來慢慢調(diào)整還是蠻有意思的,可以用來開發(fā)一些不錯的小工具
測試連接 http://baijiahao.baidu.com/s?id=1667856639211368322 測試正則 <img class="large" data-loadfunc=0 src="(.*?)"
到此這篇關(guān)于Python解決爬蟲程序卡死問題的文章就介紹到這了,更多相關(guān)Python卡死問題內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python學(xué)習(xí)筆記之Django創(chuàng)建第一個數(shù)據(jù)庫模型的方法
今天小編就為大家分享一篇Python學(xué)習(xí)筆記之Django創(chuàng)建第一個數(shù)據(jù)庫模型的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
Python應(yīng)用領(lǐng)域和就業(yè)形勢分析總結(jié)
在本篇文章總我們給大家整理了關(guān)于Python應(yīng)用領(lǐng)域和就業(yè)形勢分析以及圖文介紹,需要的朋友們可以參考下。2019-05-05
python3 http提交json參數(shù)并獲取返回值的方法
今天小編就為大家分享一篇python3 http提交json參數(shù)并獲取返回值的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12
Python 抓取數(shù)據(jù)存儲到Redis中的操作
這篇文章主要介紹了Python 抓取數(shù)據(jù)存儲到Redis中的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07

