快捷導(dǎo)航

python使用pipeline批量讀寫(xiě)redis的方法

更新時(shí)間：2019年02月18日 15:08:23 作者：leizhu900516

今天小編就為大家分享一篇python使用pipeline批量讀寫(xiě)redis的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

用了很久的redis了。隨著業(yè)務(wù)的要求越來(lái)越高。對(duì)redis的讀寫(xiě)速度要求也越來(lái)越高。正好最近有個(gè)需求（需要在秒級(jí)取值1000+的數(shù)據(jù)），如果對(duì)于傳統(tǒng)的單詞取值，循環(huán)取值，消耗實(shí)在是大，有小伙伴可能考慮到多線程，但這并不是最好的解決方案，這里考慮到了redis特有的功能pipeline管道功能。

下面就更大家演示一下pipeline在python環(huán)境下的使用情況。

1、插入數(shù)據(jù)

>>> import redis

>>> conn = redis.Redis(host='192.168.8.176',port=6379)

>>> pipe = conn.pipeline()

>>> pipe.hset("hash_key","leizhu900516",8)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hset("hash_key","chenhuachao",9)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hset("hash_key","wanger",10)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.execute()
[1L, 1L, 1L]
>>>

2、批量讀取數(shù)據(jù)

>>> pipe.hget("hash_key","leizhu900516")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hget("hash_key","chenhuachao")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hget("hash_key","wanger")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> result = pipe.execute()

>>> print result
['8', '9', '10']  #有序的列表
>>>

總結(jié)：redis的pipeline就是這么簡(jiǎn)單，實(shí)際生產(chǎn)環(huán)境，根據(jù)需要去編寫(xiě)相應(yīng)的代碼。思路同理,如:

redis_db = redis.Redis(host='127.0.0.1',port=6379)
data = ['zhangsan', 'lisi', 'wangwu']

with redis_db.pipeline(transaction=False) as pipe:
  for i in data:
    pipe.zscore(self.key, i)

  result = pipe.execute()

print result
# [100, 80, 78]

線上的redis一般都是集群模式，集群模式下使用pipeline的時(shí)候，在創(chuàng)建pipeline的對(duì)象時(shí)，需要指定

pipe =conn.pipeline(transaction=False)

經(jīng)過(guò)線上實(shí)測(cè)，利用pipeline取值3500條數(shù)據(jù)，大約需要900ms，如果配合線程or協(xié)程來(lái)使用，每秒返回1W數(shù)據(jù)是沒(méi)有問(wèn)題的，基本能滿足大部分業(yè)務(wù)。

以上這篇python使用pipeline批量讀寫(xiě)redis的方法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章:

相關(guān)文章

用Python和WordCloud繪制詞云的實(shí)現(xiàn)方法(內(nèi)附讓字體清晰的秘笈)
這篇文章主要介紹了用Python和WordCloud繪制詞云的實(shí)現(xiàn)方法(內(nèi)附讓字體清晰的秘笈),文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
2019-01-01
分享4個(gè)Python中的非常好用的自動(dòng)化腳本
這篇文章為大家準(zhǔn)備了4個(gè)很棒的Python自動(dòng)化腳本，可以解決這些問(wèn)題。文中的示例代碼講解詳細(xì)，具有一定的借鑒價(jià)值，需要的可以參考一下
2022-11-11
Python shutil模塊實(shí)現(xiàn)文件的裁剪、壓縮與解壓縮的方法
這篇文章主要介紹了Python shutil模塊實(shí)現(xiàn)文件的裁剪、壓縮與解壓縮的方法,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
2023-01-01
PyTorch中的Variable變量詳解
今天小編就為大家分享一篇PyTorch中的Variable變量詳解，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2020-01-01
解讀FastAPI異步化為transformers模型打造高性能接口
這篇文章主要介紹了解讀FastAPI異步化為transformers模型打造高性能接口問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
2024-06-06
解決pip安裝tensorflow中出現(xiàn)的no module named tensorflow.python 問(wèn)題方法
這篇文章主要介紹了解決pip安裝tensorflow中出現(xiàn)的no module named tensorflow.python 問(wèn)題方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
2021-02-02
TensorFlow Session使用的兩種方法小結(jié)
今天小編就為大家分享一篇TensorFlow Session使用的兩種方法小結(jié)，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2018-07-07
解決使用Pandas 讀取超過(guò)65536行的Excel文件問(wèn)題
這篇文章主要介紹了解決使用Pandas 讀取超過(guò)65536行的Excel文件問(wèn)題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2020-11-11
Python實(shí)現(xiàn)簡(jiǎn)單文本字符串處理的方法
這篇文章主要介紹了Python實(shí)現(xiàn)簡(jiǎn)單文本字符串處理的方法,涉及Python針對(duì)文本字符串的切割、計(jì)算、轉(zhuǎn)換等相關(guān)操作技巧,需要的朋友可以參考下
2018-01-01
python 畫(huà)圖圖例自由定義方式
這篇文章主要介紹了python 畫(huà)圖圖例自由定義方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2020-04-04