Python通過Manager方式實(shí)現(xiàn)多個(gè)無關(guān)聯(lián)進(jìn)程共享數(shù)據(jù)的實(shí)現(xiàn)
Python實(shí)現(xiàn)多進(jìn)程間通信的方式有很多種,例如隊(duì)列,管道等。
但是這些方式只適用于多個(gè)進(jìn)程都是源于同一個(gè)父進(jìn)程的情況。
如果多個(gè)進(jìn)程不是源于同一個(gè)父進(jìn)程,只能用共享內(nèi)存,信號(hào)量等方式,但是這些方式對(duì)于復(fù)雜的數(shù)據(jù)結(jié)構(gòu),例如Queue,dict,list等,使用起來比較麻煩,不夠靈活。
Manager是一種較為高級(jí)的多進(jìn)程通信方式,它能支持Python支持的的任何數(shù)據(jù)結(jié)構(gòu)。
它的原理是:先啟動(dòng)一個(gè)ManagerServer進(jìn)程,這個(gè)進(jìn)程是阻塞的,它監(jiān)聽一個(gè)socket,然后其他進(jìn)程(ManagerClient)通過socket來連接到ManagerServer,實(shí)現(xiàn)通信。
manager.py代碼,實(shí)現(xiàn)server和client兩個(gè)類
# encoding=utf-8
__author__ = 'kevinlu1010@qq.com'
'''
進(jìn)程間通信
'''
from multiprocessing.managers import BaseManager
from multiprocessing import RLock
MANAGER_PORT = 6000
MANAGER_DOMAIN = '0.0.0.0'
MANAGER_AUTH_KEY = 'aaaaaaaaaaaaaaa'
#定義一個(gè)Manager類
class InfoManager(BaseManager): pass
class DictItem():
def __init__(self, ):
self.items = dict()
def set(self, key, value):
self.items[key] = value
def get(self, key):
return self.items.get(key)
def __setitem__(self, key, value):
self.set(key, value)
#為這個(gè)manager類注冊(cè)存儲(chǔ)容器,也就是通過這個(gè)manager類實(shí)現(xiàn)的共享的變量,
#這個(gè)變量最好是一個(gè)類實(shí)例,自己定義的或者python自動(dòng)的類的實(shí)例都可以
#這里不能把d改成dict(),因?yàn)镃lient那邊執(zhí)行d['keyi']='value'的時(shí)候會(huì)報(bào)錯(cuò):d這個(gè)變量不能修改
d = DictItem()
lock = RLock()
InfoManager.register('dict', callable=lambda: d)
InfoManager.register('open_qq_login_lock', callable=lambda: lock)
class ManagerServer():
'''
multiprocess Manager服務(wù)類
'''
def __init__(self, domain, port, auth_key):
self.domain = domain
self.port = port
self.auth_key = auth_key
def start_manager_server(self):
self.queue_manager = InfoManager(address=('', self.port), authkey=self.auth_key)
# self.dict = self.queue_manager.dict()
self.server = self.queue_manager.get_server()
def run(self):
self.start_manager_server()
self.server.serve_forever()
def stop(self):
self.server.shutdown()
self.is_stop = 1
class ManagerClient():
'''
訪問mutiprocess Manager的類
'''
def __init__(self, domain, port, auth_key):
self.domain = domain
self.port = port
self.auth_key = auth_key
# self.get_share_dict()
self.info_manager = InfoManager(address=(self.domain, self.port), authkey=self.auth_key)
self.info_manager.connect()
def get_dict(self):
# self.dict = m.dict()
self.dict = self.info_manager.dict()
return self.dict
def get_open_qq_login_lock(self):
self.open_qq_login_lock = self.info_manager.open_qq_login_lock()
return self.open_qq_login_lock
if __name__ == '__main__':
pass
用法
1.啟動(dòng)一個(gè)ManagerServer,這個(gè)進(jìn)程是阻塞的
import manager def run(): manager_server = manager.ManagerServer(manager.MANAGER_DOMAIN, manager.MANAGER_PORT, manager.MANAGER_AUTH_KEY) manager_server.run() if __name__ == '__main__': run()
2.實(shí)例化一個(gè)client,獲取共享的變量
# 進(jìn)程間共享變量 manager_client = manager.ManagerClient(manager.MANAGER_DOMAIN, manager.MANAGER_PORT, manager.MANAGER_AUTH_KEY) share_dict = manager_client.get_dict() open_qq_login_lock = manager_client.get_open_qq_login_lock()
注意:
對(duì)client獲取的變量修改,不會(huì)影響server那邊的變量,例如server中,client1獲取變量params1,把它修改為params2,server那邊的數(shù)據(jù)不會(huì)修改。如果要修改server的數(shù)據(jù),需要調(diào)用server的方法,把server那邊的數(shù)據(jù)刷新。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- Python上下文管理器類和上下文管理器裝飾器contextmanager用法實(shí)例分析
- Python with關(guān)鍵字,上下文管理器,@contextmanager文件操作示例
- python 多進(jìn)程共享全局變量之Manager()詳解
- Python標(biāo)準(zhǔn)模塊--ContextManager上下文管理器的具體用法
- 詳解Python的Django框架中manage命令的使用與擴(kuò)展
- 詳解Python的Django框架中Manager方法的使用
- Python multiprocessing.Manager介紹和實(shí)例(進(jìn)程間共享數(shù)據(jù))
- python manage.py runserver流程解析
相關(guān)文章
利用python中集合的唯一性實(shí)現(xiàn)去重
集合,用{ }表示,集合中所有元素具有唯一性。這篇文章給大家介紹利用python中集合的唯一性實(shí)現(xiàn)去重,感興趣的朋友一起看看吧2020-02-02
Python設(shè)計(jì)模式之原型模式實(shí)例詳解
這篇文章主要介紹了Python設(shè)計(jì)模式之原型模式,結(jié)合實(shí)例形式較為詳細(xì)的分析了Python原型模式的概念、原理、用法及相關(guān)操作注意事項(xiàng),需要的朋友可以參考下2019-01-01
Python函數(shù)默認(rèn)返回None的原因及分析
Python函數(shù)默認(rèn)返回None是因?yàn)樵谡Z法層面,解釋器會(huì)主動(dòng)地為沒有return語句的函數(shù)添加一個(gè)返回邏輯,返回值為None2024-11-11
詳解?PyTorch?Lightning模型部署到生產(chǎn)服務(wù)中
這篇文章主要為大家介紹了如何將PyTorch?Lightning模型部署到生產(chǎn)服務(wù)中的詳細(xì)教程,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-09-09
Python表格數(shù)據(jù)處理庫之tablib庫詳解
這篇文章主要介紹了Python表格數(shù)據(jù)處理庫之tablib庫詳解,Tablib是一個(gè)用于處理電子表格數(shù)據(jù)的Python庫,它可以輕松地進(jìn)行數(shù)據(jù)的導(dǎo)入和導(dǎo)出,以及數(shù)據(jù)格式的轉(zhuǎn)換,需要的朋友可以參考下2023-08-08

