Python異步與定時任務(wù)提高程序并發(fā)性和定時執(zhí)行效率
異步任務(wù)和定時任務(wù)
對于 Web 應(yīng)用中的一些操作,它們可能需要較長時間才能完成,或者它們的執(zhí)行時間無法確定。對于這些操作,如果用戶只需要知道服務(wù)器已經(jīng)接收到了請求,而不需要立即得到請求的執(zhí)行結(jié)果,那么我們就可以將它們進(jìn)行異步化處理。如果說使用緩存是優(yōu)化網(wǎng)站性能的第一要義,那么將耗時或執(zhí)行時間不確定的任務(wù)異步化則是網(wǎng)站性能優(yōu)化的第二要義。簡單來說,能夠推遲做的事情都不應(yīng)該馬上去做。
在上一章節(jié)中,我們以發(fā)送短信和上傳文件到云存儲為例。這兩個操作中,前者屬于時間不確定的操作(因為作為調(diào)用者,我們無法確定三方平臺響應(yīng)的時間),后者屬于耗時的操作(如果文件較大或者三方平臺不穩(wěn)定,都可能導(dǎo)致上傳的時間較長)。很顯然,這兩個操作都可以進(jìn)行異步化處理。
在 Python 項目中,我們可以使用多線程或借助三方庫 Celery 來實現(xiàn)異步化處理。
使用Celery實現(xiàn)異步化
Celery 是一個 Python 的異步任務(wù)隊列/消息隊列,它可以很方便地完成異步任務(wù)的處理。使用 Celery 可以將任務(wù)分發(fā)到多個任務(wù)執(zhí)行者中,任務(wù)執(zhí)行者可以是單個進(jìn)程或多個進(jìn)程、多個主機(jī)。Celery 還支持任務(wù)的優(yōu)先級、任務(wù)結(jié)果的保存、任務(wù)的重試等功能。
使用 Celery 實現(xiàn)異步化需要以下步驟:
安裝 Celery
pip install celery
在項目中創(chuàng)建一個 Celery 應(yīng)用
from celery import Celery
app = Celery('tasks', broker='pyamqp://guest@localhost//')定義任務(wù)
@app.task
def add(x, y):
return x + y在項目中調(diào)用任務(wù)
result = add.delay(4, 4) print(result.get(timeout=1))
使用多線程實現(xiàn)異步化
Python 中的 threading 模塊可以用來創(chuàng)建多線程。使用多線程可以將耗時的任務(wù)放在新線程中執(zhí)行,從而不會影響主線程的執(zhí)行。
使用多線程實現(xiàn)異步化需要以下步驟:
導(dǎo)入 threading 模塊
import threading
定義一個函數(shù)作為任務(wù)
def task():
print('Hello from task')創(chuàng)建一個新線程并啟動它
t = threading.Thread(target=task) t.start()
定時任務(wù)
有些任務(wù)需要在特定的時間執(zhí)行,這時候我們需要使用定時任務(wù)。Python 中有多個第三方庫可以用來實現(xiàn)定時任務(wù),如 schedule、APScheduler 等。下面以 APScheduler 為例來講解如何實現(xiàn)定時任務(wù)。
使用 APScheduler 實現(xiàn)定時任務(wù)需要以下步驟:
安裝 APScheduler
pip install apscheduler
導(dǎo)入 APScheduler 模塊
from apscheduler.schedulers.blocking import BlockingScheduler
創(chuàng)建一個 BlockingScheduler 實例并添加任務(wù)
def task():
print('Hello from task')
scheduler = BlockingScheduler()
scheduler.add_job(task, 'interval', seconds=5)
scheduler.start()上述代碼會每隔 5 秒執(zhí)行一次 task 函數(shù)。
Celery和多線程的比較
雖然 Celery 和多線程都可以實現(xiàn)異步化處理,但是它們之間存在一些差異和優(yōu)缺點。
Celery的優(yōu)缺點
優(yōu)點:
- 可以將任務(wù)分發(fā)到多個任務(wù)執(zhí)行者中,從而實現(xiàn)任務(wù)的負(fù)載均衡,提高任務(wù)處理的效率。
- 支持任務(wù)的優(yōu)先級、任務(wù)結(jié)果的保存、任務(wù)的重試等功能。
- 支持多種消息傳輸協(xié)議,如 AMQP、Redis、RabbitMQ 等。
- 可以方便地集成到 Django、Flask 等 Web 框架中。
缺點:
- 安裝和配置過程可能會比較繁瑣。
- 可能會增加系統(tǒng)的復(fù)雜性。
多線程的優(yōu)缺點
優(yōu)點:
- 實現(xiàn)起來比較簡單,不需要安裝額外的庫。
- 可以在本地機(jī)器上快速地完成任務(wù)處理。
缺點:
- 不能將任務(wù)分發(fā)到多個任務(wù)執(zhí)行者中,從而無法實現(xiàn)任務(wù)的負(fù)載均衡。
- 無法方便地實現(xiàn)任務(wù)的優(yōu)先級、任務(wù)結(jié)果的保存、任務(wù)的重試等功能。
- 可能會導(dǎo)致系統(tǒng)的性能下降,因為多線程的并發(fā)性能有限。
定時任務(wù)的選擇
在 Python 中,有多個第三方庫可以用來實現(xiàn)定時任務(wù),如 schedule、APScheduler 等。這些庫都有各自的優(yōu)缺點,我們可以根據(jù)具體需求選擇合適的庫來實現(xiàn)定時任務(wù)。
schedule庫
- 簡單易用,只需要調(diào)用
schedule函數(shù)即可實現(xiàn)定時任務(wù)。 - 不能實現(xiàn)任務(wù)的負(fù)載均衡和任務(wù)的并發(fā)執(zhí)行。
APScheduler庫
- 支持多種調(diào)度器,如 BlockingScheduler、BackgroundScheduler、AsyncIOScheduler 等。
- 支持多種觸發(fā)器,如 date、interval、cron、interval_from_last 等。
- 支持任務(wù)的并發(fā)執(zhí)行和負(fù)載均衡。
- 可以方便地集成到 Django、Flask 等 Web 框架中。
總結(jié)
本文介紹了 Python 中實現(xiàn)異步任務(wù)和定時任務(wù)的兩種方法:使用 Celery 和使用多線程。同時,我們還介紹了如何使用第三方庫 APScheduler 來實現(xiàn)定時任務(wù)。在實際開發(fā)中,我們可以根據(jù)具體情況選擇不同的方法來實現(xiàn)異步任務(wù)和定時任務(wù),以達(dá)到優(yōu)化網(wǎng)站性能的目的。同時,我們還介紹了一些常用的第三方庫,如 schedule、APScheduler 等,它們可以幫助我們更加方便地實現(xiàn)異步任務(wù)和定時任務(wù)。
到此這篇關(guān)于Python異步與定時任務(wù)提高程序并發(fā)性和定時執(zhí)行效率的文章就介紹到這了,更多相關(guān)Python異步與定時任務(wù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python實現(xiàn)用類讀取文件數(shù)據(jù)并計算矩形面積
今天小編就為大家分享一篇python實現(xiàn)用類讀取文件數(shù)據(jù)并計算矩形面積,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01
pandas?實現(xiàn)?in?和?not?in?的用法及使用心得
pandas按條件篩選數(shù)據(jù)時,除了使用query()方法,還可以使用isin和對isin取反進(jìn)行條件篩選,今天通過本文給大家介紹pandas?實現(xiàn)?in?和?not?in?的用法及使用心得,感興趣的朋友跟隨小編一起看看吧2023-01-01
Python Pyqt5多線程更新UI代碼實例(防止界面卡死)
這篇文章通過代碼實例給大家介紹了Python Pyqt5多線程更新UI防止界面卡死的問題,代碼簡單易懂,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友參考下吧2021-12-12
使用Python通過代碼創(chuàng)建圖表的詳細(xì)步驟
這篇文章主要介紹了使用Python通過代碼創(chuàng)建圖表的詳細(xì)步驟,文中介紹了如何使用DiagramasCode工具創(chuàng)建基礎(chǔ)架構(gòu)的架構(gòu)圖,并通過Python腳本生成并上傳到對象存儲桶,需要的朋友可以參考下2024-12-12
Tkinter canvas的畫布參數(shù),刪除組件,添加垂直滾動條詳解
這篇文章主要介紹了python tkinter 畫布參數(shù),刪除組件,添加垂直滾動條使用實例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2021-10-10

