內(nèi)存管理優(yōu)化

Redis Hash是value內(nèi)部為一個HashMap，如果該Map的成員數(shù)比較少，則會采用類似一維線性的緊湊格式來存儲該Map, 即省去了大量指針的內(nèi)存開銷，這個參數(shù)控制對應在redis.conf配置文件中下面2項：

hash-max-zipmap-entries 64 hash-max-zipmap-value 512       

當value這個Map內(nèi)部不超過多少個成員時會采用線性緊湊格式存儲，默認是64,即value內(nèi)部有64個以下的成員就是使用線性緊湊存儲，超過該值自動轉(zhuǎn)成真正的HashMap。

hash-max-zipmap-value 含義是當 value這個Map內(nèi)部的每個成員值長度不超過多少字節(jié)就會采用線性緊湊存儲來節(jié)省空間。

以上2個條件任意一個條件超過設置值都會轉(zhuǎn)換成真正的HashMap，也就不會再節(jié)省內(nèi)存了，那么這個值是不是設置的越大越好呢，答案當然是否定的，HashMap的優(yōu)勢就是查找和操作的時間復雜度都是O(1)的，而放棄Hash采用一維存儲則是O(n)的時間復雜度，如果

成員數(shù)量很少，則影響不大，否則會嚴重影響性能，所以要權衡好這個值的設置，總體上還是最根本的時間成本和空間成本上的權衡。

list-max-ziplist-value 64 list-max-ziplist-entries 512       

list數(shù)據(jù)類型節(jié)點值大小小于多少字節(jié)會采用緊湊存儲格式、list數(shù)據(jù)類型多少節(jié)點以下會采用去指針的緊湊存儲格式。

內(nèi)存預分配：

Redis內(nèi)部實現(xiàn)沒有對內(nèi)存分配方面做過多的優(yōu)化（對比Memcache），在一定程度上會存在內(nèi)存碎片，不過大多數(shù)情況下這個不會成為Redis的性能瓶頸，不過如果在Redis內(nèi)部存儲的大部分數(shù)據(jù)是數(shù)值型的話，Redis內(nèi)部采用了一個shared integer的 方式來省去分配內(nèi)存的開銷，即在系統(tǒng)啟動時先分配一個從1~n 那么多個數(shù)值對象放在一個池子中，如果存儲的數(shù)據(jù)恰好是這個數(shù)值范圍內(nèi)的數(shù)據(jù)，則直接從池子里取出該對象，并且通過引用計數(shù)的方式來共享，這樣在系統(tǒng)存儲 了大量數(shù)值下，也能一定程度上節(jié)省內(nèi)存并且提高性能，這個參數(shù)值n的設置需要修改源代碼中的一行宏定義REDIS_SHARED_INTEGERS，該值 默認是10000，可以根據(jù)自己的需要進行修改，修改后重新編譯就可以了。

持久化機制：

定時快照方式(snapshot)：

該持久化方式實際是在Redis內(nèi)部一個定時器事件，每隔固定時間去檢查當前數(shù)據(jù)發(fā)生的改變次數(shù)與時間是否滿足配置的持久化觸發(fā)的條件，如果滿足則通 過操作系統(tǒng)fork調(diào)用來創(chuàng)建出一個子進程，這個子進程默認會與父進程共享相同的地址空間，這時就可以通過子進程來遍歷整個內(nèi)存來進行存儲操作，而主進程 則仍然可以提供服務，當有寫入時由操作系統(tǒng)按照內(nèi)存頁(page)為單位來進行copy-on-write保證父子進程之間不會互相影響。

該持久化的主要缺點是定時快照只是代表一段時間內(nèi)的內(nèi)存映像，所以系統(tǒng)重啟會丟失上次快照與重啟之間所有的數(shù)據(jù)。

基于語句追加方式(aof)：

aof方式實際類似mysql的基于語句的binlog方式，即每條會使Redis內(nèi)存數(shù)據(jù)發(fā)生改變的命令都會追加到一個log文件中，也就是說這個log文件就是Redis的持久化數(shù)據(jù)。

aof的方式的主要缺點是追加log文件可能導致體積過大，當系統(tǒng)重啟恢復數(shù)據(jù)時如果是aof的方式則加載數(shù)據(jù)會非常慢，幾十G的數(shù)據(jù)可能需要幾小時才能加載完，當然這個耗時并不是因為磁盤文件讀取速度慢，而是由于讀取的所有命令都要在內(nèi)存中執(zhí)行一遍。另外由于每條命令都要寫log,所以使用aof的方式，Redis的讀寫性能也會有所下降。

可以考慮將數(shù)據(jù)保存到不同的Redis實例中，每個實例的內(nèi)存大小在2G左右，避免將雞蛋放到一個籃子里，既可以減少緩存失效給系統(tǒng)帶來的影響，又可以加快數(shù)據(jù)恢復的速度，不過同時也給系統(tǒng)設計帶來了一定的復雜性。

Redis持久化崩潰問題：

有Redis線上運維經(jīng)驗的人會發(fā)現(xiàn)Redis在物理內(nèi)存使用比較多，但還沒有超過實際物理內(nèi)存總?cè)萘繒r就會發(fā)生不穩(wěn)定甚至崩潰的 問題，有人認為是基于快照方式持久化的fork系統(tǒng)調(diào)用造成內(nèi)存占用加倍而導致的，這種觀點是不準確的，因為fork 調(diào)用的copy-on-write機制是基于操作系統(tǒng)頁這個單位的，也就是只有有寫入的臟頁會被復制，但是一般你的系統(tǒng)不會在短時間內(nèi)所有的頁都發(fā)生了寫 入而導致復制，那么是什么原因?qū)е翿edis崩潰的呢？

答案是Redis的持久化使用了Buffer IO造 成的，所謂Buffer IO是指Redis對持久化文件的寫入和讀取操作都會使用物理內(nèi)存的Page Cache,而大多數(shù)數(shù)據(jù)庫系統(tǒng)會使用Direct IO來繞過這層Page Cache并自行維護一個數(shù)據(jù)的Cache，而當Redis的持久化文件過大(尤其是快照文件)，并對其進行讀寫時，磁盤文件中的數(shù)據(jù)都會被加載到物理內(nèi) 存中作為操作系統(tǒng)對該文件的一層Cache,而這層Cache的數(shù)據(jù)與Redis內(nèi)存中管理的數(shù)據(jù)實際是重復存儲的，雖然內(nèi)核在物理內(nèi)存緊張時會做 Page Cache的剔除工作，但內(nèi)核很可能認為某塊Page Cache更重要，而讓你的進程開始Swap ,這時你的系統(tǒng)就會開始出現(xiàn)不穩(wěn)定或者崩潰了。我們的經(jīng)驗是當你的Redis物理內(nèi)存使用超過內(nèi)存總?cè)萘康?/5時就會開始比較危險了。

總結：

1、根據(jù)業(yè)務需要選擇合適的數(shù)據(jù)類型，并為不同的應用場景設置相應的緊湊存儲參數(shù)。

2、當業(yè)務場景不需要數(shù)據(jù)持久化時，關閉所有的持久化方式可以獲得最佳的性能以及最大的內(nèi)存使用量。

3、如果需要使用持久化，根據(jù)是否可以容忍重啟丟失部分數(shù)據(jù)在快照方式與語句追加方式之間選擇其一，不要使用虛擬內(nèi)存以及diskstore方式。

4、不要讓你的Redis所在機器物理內(nèi)存使用超過實際內(nèi)存總量的3/5。

redis.conf中的maxmemory選項，該選項是告訴Redis當使用了多少物理內(nèi)存后就開始拒絕后續(xù)的寫入請求，該參數(shù)能很好的保護好你的Redis不會因為使用了過多的物理內(nèi)存而導致swap,最終嚴重影響性能甚至崩潰。

redis.conf文件中 vm-enabled 為 no

以上這篇Redis優(yōu)化經(jīng)驗總結(必看篇)就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

最新評論