python多進程操作實例
由于CPython實現(xiàn)中的GIL的限制,python中的多線程其實并不是真正的多線程,如果想要充分地使用多核CPU的資源,在python中大部分情況我們需要使用多進程。 這也許就是python中多進程類庫如此簡潔好用的原因所在。在python中可以向多線程一樣簡單地使用多進程。
一、多進程
process的成員變量和方法:
>>class multiprocessing.Process([group[, target[, name[, args[, kwargs]]]]]) 來的定義類似于threading.Thread。target表示此進程運行的函數(shù),args和kwargs表示target的參數(shù)。
>>name, pid
分別表示進程的名字,進程id。
>> daemon成員
daemon標志位bool變量,需要在start()調(diào)用前設置。daemon的初始值是從父進程繼承而來。當一個進程結束的時候,它嘗試去結束它的所有的daemon子進程。
注意:
daemon進程不允許創(chuàng)建子進程。否則當daemon進程結束的時候它的子進程不能被結束。
這里的daemon不是Unix的daemon進程,當父進程結束的時候所有的daemon子進程也將被終止(對于非daemon進程,父進程不等待非daemon的紫子進程,除非顯示地對非daemon子進程使用join()方法)。
>> exitcode
如果進程還沒有退出,則為None,如果正確的退出則為0,如果有錯誤則為>0的錯誤代碼,如果進程為終止則為-1*singal。
>> start(), is_live(), terminate()
start()用來啟動進程,is_live()用來查看進程的狀態(tài),terminate()用來終止進程。
>> run()
可以在process的子類中重載run()方法,從而設定進程的任務。重載process是構造新進程的另一種方式,一定程度上上等價于process的target參數(shù)。
multiprcessing的靜態(tài)方法:
>> multiprocessing.cpu_count()
用來獲得當前的CPU的核數(shù),可以用來設置接下來子進程的個數(shù)。
>> multiprocessing.active_children()
用來獲得當前所有的子進程,包括daemon和非daemon子進程。
實例:
import multiprocessing
import time
import sys
def worker(num):
p = multiprocessing.current_process()
print ('Starting:' + p.name + ":" + str(p.pid))
print(str(num))
sys.stdout.flush()
print ('Exiting :' + p.name + ":" + str(p.pid))
sys.stdout.flush()
def daemon():
p = multiprocessing.current_process()
print ('Starting:' + p.name + ":" + str(p.pid))
sys.stdout.flush()
time.sleep(10)
print ('Exiting :' + p.name + ":" + str(p.pid))
sys.stdout.flush()
def non_daemon():
p = multiprocessing.current_process()
print ('Starting:' + p.name + ":" + str(p.pid))
sys.stdout.flush()
time.sleep(20)
print ('Exiting :' + p.name + ":" + str(p.pid))
sys.stdout.flush()
if __name__ == '__main__':
w = multiprocessing.Process(name='worker', target=worker, args=(100,))
d = multiprocessing.Process(name='daemon', target=daemon)
d.daemon = True
nd = multiprocessing.Process(name='non-daemon', target=non_daemon)
w.start()
d.start()
nd.start()
print("the number of CPU is " + str(multiprocessing.cpu_count()))
print("All children processes:")
for p in multiprocessing.active_children():
print("child:" + p.name + ":" + str(p.pid))
print()
w.join()
#d.join()
運行結果:

可以從上面的例子看到?jīng)]有多非daemon子進程使用join()方法,結果父進程沒有等待非daemon進程結束就退出了。
- python多進程共享變量
- 探究Python多進程編程下線程之間變量的共享問題
- Python 多進程和數(shù)據(jù)傳遞的理解
- Python實現(xiàn) 多進程導入CSV數(shù)據(jù)到 MySQL
- Python利用多進程將大量數(shù)據(jù)放入有限內(nèi)存的教程
- Python多進程并發(fā)(multiprocessing)用法實例詳解
- 淺析Python中的多進程與多線程的使用
- Python多進程同步Lock、Semaphore、Event實例
- python 多進程通信模塊的簡單實現(xiàn)
- Python控制多進程與多線程并發(fā)數(shù)總結
- Python實現(xiàn)多進程共享數(shù)據(jù)的方法分析
相關文章
python批量導入數(shù)據(jù)進Elasticsearch的實例
今天小編就為大家分享一篇python批量導入數(shù)據(jù)進Elasticsearch的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-05-05

