Python多進(jìn)程模式實(shí)現(xiàn)多核CPU并行計(jì)算
隨著計(jì)算機(jī)硬件的不斷發(fā)展,多核CPU已經(jīng)成為普及的硬件設(shè)備,利用多核CPU的優(yōu)勢可以有效的提高程序的執(zhí)行效率。
而多進(jìn)程模式可以實(shí)現(xiàn)多核CPU的并行計(jì)算。Python作為一門高級編程語言,提供了多進(jìn)程、多線程等多種方式來實(shí)現(xiàn)并行計(jì)算。
在本文中,我們將重點(diǎn)介紹在Python中如何利用多進(jìn)程模式提高程序的執(zhí)行效率。
1.Python中的多進(jìn)程模式
在Python中,可以使用multiprocessing模塊來實(shí)現(xiàn)多進(jìn)程。multiprocessing是Python標(biāo)準(zhǔn)庫中的一個(gè)模塊,用于管理多進(jìn)程的創(chuàng)建和通信。
在multiprocessing中,可以使用Process類來創(chuàng)建進(jìn)程,Process類的構(gòu)造函數(shù)可以接受一個(gè)函數(shù)作為參數(shù)。
該函數(shù)將在子進(jìn)程中執(zhí)行。下面是一個(gè)簡單的示例:
import?multiprocessing
def?worker():
????print("Worker?process?started")
if?__name__?==?'__main__':
????p?=?multiprocessing.Process(target=worker)
????p.start()
????p.join()在上面的示例中,我們首先定義了一個(gè)worker函數(shù),然后使用Process類創(chuàng)建了一個(gè)進(jìn)程,并將worker函數(shù)作為參數(shù)傳遞給Process類的構(gòu)造函數(shù)。
最后,我們調(diào)用Process類的start方法啟動(dòng)進(jìn)程,并調(diào)用Process類的join方法等待進(jìn)程結(jié)束。
2.提高程序執(zhí)行效率的方法
在Python中使用多進(jìn)程模式提高程序執(zhí)行效率,可以通過以下幾種方式來實(shí)現(xiàn):
2.1多進(jìn)程并發(fā)執(zhí)行任務(wù)
在多進(jìn)程模式下,可以將任務(wù)分配給多個(gè)進(jìn)程并行執(zhí)行,從而利用多核CPU的優(yōu)勢。
在Python中,可以使用multiprocessing模塊來實(shí)現(xiàn)多進(jìn)程并發(fā)執(zhí)行任務(wù)。
下面是一個(gè)簡單的示例:
import?multiprocessing
def?worker(name):
????print("Worker?%s?started"?%?name)
if?__name__?==?'__main__':
????for?i?in?range(5):
????????p?=?multiprocessing.Process(target=worker,?args=(i,))
????????p.start()在上面的示例中,我們定義了一個(gè)worker函數(shù),該函數(shù)接受一個(gè)參數(shù)name,并在函數(shù)體中打印出Worker name started的信息。
然后我們使用for循環(huán)創(chuàng)建了5個(gè)進(jìn)程,并將worker函數(shù)和對應(yīng)的參數(shù)傳遞給Process類的構(gòu)造函數(shù)。
最后,我們調(diào)用Process類的start方法啟動(dòng)進(jìn)程。
2.2進(jìn)程池
對于大量重復(fù)的任務(wù),可以使用進(jìn)程池來維護(hù)一定數(shù)量的進(jìn)程,每個(gè)進(jìn)程執(zhí)行一個(gè)任務(wù)后返回結(jié)果,然后再由進(jìn)程池分配下一個(gè)任務(wù)。
這樣可以避免頻繁地創(chuàng)建和銷毀進(jìn)程,提高效率。在Python中,可以使用multiprocessing模塊的Pool類來實(shí)現(xiàn)進(jìn)程池。
下面是一個(gè)簡單的示例:
import?multiprocessing
def?worker(name):
????print("Worker?%s?started"?%?name)
if?__name__?==?'__main__':
????with?multiprocessing.Pool(processes=4)?as?pool:
????????pool.map(worker,?range(10))在上面的示例中,我們定義了一個(gè)worker函數(shù),該函數(shù)接受一個(gè)參數(shù)name,并在函數(shù)體中打印出Worker name started的信息。
然后我們使用with語句創(chuàng)建了一個(gè)進(jìn)程池,并指定進(jìn)程池中的進(jìn)程數(shù)量為4。
最后,我們使用Pool類的map方法將worker函數(shù)和對應(yīng)的參數(shù)傳遞給進(jìn)程池,進(jìn)程池會自動(dòng)分配任務(wù)給不同的進(jìn)程執(zhí)行。
3.消息隊(duì)列
在多進(jìn)程模式下,不同的進(jìn)程之間需要進(jìn)行通信,可以利用消息隊(duì)列來實(shí)現(xiàn)進(jìn)程間通信。
Python中可以使用Queue模塊來實(shí)現(xiàn)消息隊(duì)列。下面是一個(gè)簡單的示例:
import?multiprocessing def?producer(queue): ????for?i?in?range(10): ????????queue.put(i) def?consumer(queue): ????while?not?queue.empty(): ????????print(queue.get()) if?__name__?==?'__main__': ????queue?=?multiprocessing.Queue() ????p1?=?multiprocessing.Process(target=producer,?args=(queue,)) ????p2?=?multiprocessing.Process(target=consumer,?args=(queue,)) ????p1.start() ????p2.start() ????p1.join() ????p2.join()
在上面的示例中,我們定義了一個(gè)producer函數(shù)和一個(gè)consumer函數(shù),producer函數(shù)將0~9的數(shù)字放入消息隊(duì)列,consumer函數(shù)從消息隊(duì)列中取出數(shù)字并打印出來。
然后我們使用multiprocessing模塊的Queue類創(chuàng)建了一個(gè)消息隊(duì)列,并使用Process類創(chuàng)建了兩個(gè)進(jìn)程分別執(zhí)行producer函數(shù)和consumer函數(shù)。
4.共享內(nèi)存
對于需要多個(gè)進(jìn)程共享的數(shù)據(jù),可以使用共享內(nèi)存來避免數(shù)據(jù)拷貝和進(jìn)程間通信的開銷。
在Python中,可以使用multiprocessing模塊的Value和Array類來實(shí)現(xiàn)共享內(nèi)存。
下面是一個(gè)簡單的示例:
import?multiprocessing
def?worker(counter):
????counter.value?+=?1
if?__name__?==?'__main__':
????counter?=?multiprocessing.Value('i',?0)
????processes?=?[]
????for?i?in?range(5):
????????p?=?multiprocessing.Process(target=worker,?args=(counter,))
????????processes.append(p)
????????p.start()
????for?p?in?processes:
????????p.join()
????print(counter.value)在上面的示例中,我們定義了一個(gè)worker函數(shù),該函數(shù)接受一個(gè)參數(shù)counter,每次執(zhí)行時(shí)將counter的值加1。
然后我們使用multiprocessing模塊的Value類創(chuàng)建了一個(gè)整型變量counter,并使用Process類創(chuàng)建了5個(gè)進(jìn)程分別執(zhí)行worker函數(shù)。
最后,我們打印出counter的值。
5.異步IO
對于I/O密集型任務(wù),可以使用異步IO來提高效率。在Python中,可以使用asyncio模塊來實(shí)現(xiàn)異步IO。
下面是一個(gè)簡單的示例:
import?asyncio
async?def?worker():
????await?asyncio.sleep(1)
????print("Worker?process?started")
loop?=?asyncio.get_event_loop()
loop.run_until_complete(worker())在上面的示例中,我們定義了一個(gè)worker函數(shù),該函數(shù)使用asyncio庫的異步IO特性。
在函數(shù)體中,使用asyncio.sleep函數(shù)模擬了一個(gè)長時(shí)間的I/O操作,并在操作完成后打印了一條消息。
然后我們使用asyncio庫的get_event_loop函數(shù)創(chuàng)建了一個(gè)事件循環(huán),并使用run_until_complete函數(shù)啟動(dòng)worker函數(shù)。在程序執(zhí)行過程中,事件循環(huán)會負(fù)責(zé)調(diào)度和執(zhí)行異步IO操作。
6.總結(jié)
在Python中,使用多進(jìn)程模式可以實(shí)現(xiàn)多核CPU的并行計(jì)算,從而提高程序的執(zhí)行效率。
在本文中,我們介紹了如何使用Python的multiprocessing模塊實(shí)現(xiàn)多進(jìn)程并發(fā)執(zhí)行任務(wù)、進(jìn)程池、消息隊(duì)列、共享內(nèi)存、異步IO等方式來提高程序執(zhí)行效率。
實(shí)際應(yīng)用中,需要根據(jù)具體的場景選擇合適的并行計(jì)算方式,并注意避免死鎖等常見問題。
到此這篇關(guān)于Python多進(jìn)程模式實(shí)現(xiàn)多核CPU并行計(jì)算的文章就介紹到這了,更多相關(guān)Python CPU并行計(jì)算內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
如何利用python給微信公眾號發(fā)消息實(shí)例代碼
使用過微信公眾號的小伙伴應(yīng)該知道微信公眾號有時(shí)候會給你推一些文章,當(dāng)你選擇它的某個(gè)功能時(shí),它還會返回一些信息,下面這篇文章主要給大家介紹了關(guān)于如何利用python給微信公眾號發(fā)消息的相關(guān)資料,需要的朋友可以參考下2022-03-03
用于ETL的Python數(shù)據(jù)轉(zhuǎn)換工具詳解
這篇文章主要介紹了用于ETL的Python數(shù)據(jù)轉(zhuǎn)換工具,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-07-07
python2 與python3的print區(qū)別小結(jié)
這篇文章主要介紹了python2 與python3的print區(qū)別小結(jié),需要的朋友可以參考下2018-01-01
pybaobabdt庫基于python的決策樹隨機(jī)森林可視化工具使用
這篇文章主要為大家介紹了pybaobabdt庫基于python的決策樹隨機(jī)森林可視化工具使用探索,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-02-02
pytorch使用tensorboard報(bào)錯(cuò)問題及解決
這篇文章主要介紹了pytorch使用tensorboard報(bào)錯(cuò)問題及解決方案,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09
python開啟多個(gè)子進(jìn)程并行運(yùn)行的方法
這篇文章主要介紹了python開啟多個(gè)子進(jìn)程并行運(yùn)行的方法,涉及Python進(jìn)程操作的相關(guān)技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-04-04

