redis過(guò)期key的刪除策略介紹
在使用redis的過(guò)程中,不免會(huì)產(chǎn)生過(guò)期的key,而這些key過(guò)期后并不會(huì)實(shí)時(shí)地馬上被刪除,當(dāng)這些key數(shù)量累積越來(lái)越多,就會(huì)占用很多內(nèi)存,因此在redis底層同時(shí)使用了三種策略來(lái)刪除這些key。
第一種策略:被動(dòng)刪除
當(dāng)讀/寫(xiě)一個(gè)key時(shí),redis首先會(huì)檢查這個(gè)key是否存在,如果存在且已過(guò)期,則直接刪除這個(gè)key并返回nil給客戶端。
第二種策略:定期刪除
redis中有一系列的定期任務(wù)(serverCron),這些任務(wù)每隔一段時(shí)間就會(huì)運(yùn)行一次,其中就包含清理過(guò)期key的任務(wù),運(yùn)行頻率由配置文件中的hz參數(shù)來(lái)控制,取值范圍1~500,默認(rèn)是10,代表每秒運(yùn)行10次。
清理過(guò)程如下:
- 遍歷所有的db
- 從db中設(shè)置了過(guò)期時(shí)間的key的集合中隨機(jī)檢查20個(gè)key
- 刪除檢查中發(fā)現(xiàn)的所有過(guò)期key
- 如果檢查結(jié)果中25%以上的key已過(guò)期,則繼續(xù)重復(fù)執(zhí)行步驟2-3,否則繼續(xù)遍歷下一個(gè)db
調(diào)大hz將會(huì)提高redis定期任務(wù)的執(zhí)行頻率,如果你的redis中包含很多過(guò)期key的話,可以考慮將這個(gè)值調(diào)大,但要注意同時(shí)也會(huì)增加CPU的壓力,redis作者建議這個(gè)值不要超過(guò)100。
第三種策略:強(qiáng)制刪除
如果redis使用的內(nèi)存已經(jīng)達(dá)到maxmemory配置的值時(shí),會(huì)觸發(fā)強(qiáng)制清理策略,清理策略由配置文件的maxmemory-policy參數(shù)來(lái)控制
有以下這些清理策略:
volatile-lru:使用LRU算法對(duì)設(shè)置了過(guò)期時(shí)間的key進(jìn)行清理(默認(rèn)值)allkeys-lru:使用LRU算法對(duì)所有key進(jìn)行清理volatile-lfu:使用LFU算法對(duì)設(shè)置了過(guò)期時(shí)間的key進(jìn)行清理(redis 4.0版本開(kāi)始支持)allkeys-lfu:使用LFU算法對(duì)所有key進(jìn)行清理(redis 4.0版本開(kāi)始支持)volatile-random:對(duì)所有設(shè)置了過(guò)期時(shí)間的key進(jìn)行隨機(jī)清理allkeys-random:從所有key進(jìn)行隨機(jī)清理volatile-ttl:清理生存時(shí)間最小的一部分keynoeviction:不做任何清理,拒絕執(zhí)行所有的寫(xiě)操作(如果需要保證數(shù)據(jù)的完整性,可以選擇這個(gè))
為了節(jié)省內(nèi)存和性能上的考慮,上述的清理策略都不需要遍歷所有數(shù)據(jù),而是采用隨機(jī)采樣的方法,每次隨機(jī)取出特定數(shù)量(由maxmemory-samples配置項(xiàng)控制,默認(rèn)是5個(gè))的key,然后在這些key中執(zhí)行LRU算法、RANDOM算法、或者是找出TTL時(shí)間最小的一個(gè)key,然后進(jìn)行刪除。
注:這個(gè)清理過(guò)程是阻塞的,直到清理出足夠的內(nèi)存空間才會(huì)停止。
關(guān)于big key的清理
在刪除元素?cái)?shù)量很多的集合(set/hash/list/sortedSet)時(shí),無(wú)論是使用DEL命令刪除還是redis為了釋放內(nèi)存空間而進(jìn)行的刪除,在刪除這些big key的時(shí)候,會(huì)導(dǎo)致redis主線程阻塞。為了解決這個(gè)問(wèn)題,在redis 4.0版本中,提供了lazy free(懶惰刪除)的特性。
使用lazy free刪除big key時(shí),和一個(gè)O(1)指令的耗時(shí)一樣,亞毫秒級(jí)返回,然后把真正刪除key的耗時(shí)動(dòng)作交由bio后臺(tái)子線程執(zhí)行。
UNLINK命令
UNLINK命令是與DEL一樣刪除key功能的lazy free實(shí)現(xiàn)。
唯一不同的是,UNLINK在刪除集合類型的鍵時(shí),如果集合鍵的元素個(gè)數(shù)大于64個(gè),會(huì)把真正的內(nèi)存釋放操作,交給單獨(dú)的后臺(tái)線程來(lái)操作,使用示例:
127.0.0.1:6379> UNLINK mylist (integer) 1
FLUSHALL/FLUSHDB命令
FLUSHALL/FLUSHDB命令也有l(wèi)azy free的實(shí)現(xiàn),在命令后加上ASYNC關(guān)鍵字就可以,使用示例:
127.0.0.1:6379> FLUSHALL ASYNC
lazy free相關(guān)配置項(xiàng)
與lazy free相關(guān)的配置項(xiàng)有以下這些,默認(rèn)值都是no,即關(guān)閉。
lazyfree-lazy-eviction
針對(duì)redis內(nèi)存使用達(dá)到maxmemory,并設(shè)置有淘汰策略時(shí),在淘汰鍵時(shí)是否采用lazy free機(jī)制。
注:如果此場(chǎng)景開(kāi)啟lazy free,可能會(huì)使淘汰鍵的內(nèi)存釋放不及時(shí),導(dǎo)致redis不能迅速將內(nèi)存使用下降到maxmemory以下。
lazyfree-lazy-expire
針對(duì)設(shè)置有過(guò)期時(shí)間的key,達(dá)到過(guò)期后,被redis清理刪除時(shí)是否采用lazy free機(jī)制,此場(chǎng)景建議開(kāi)啟。
lazyfree-lazy-server-del
針對(duì)有些命令在處理已存在的鍵時(shí),會(huì)帶有一個(gè)隱式的DEL鍵的操作。如RENAME命令,當(dāng)目標(biāo)鍵已存在,redis會(huì)先刪除目標(biāo)鍵,如果這些目標(biāo)鍵是一個(gè)big key,那就會(huì)出現(xiàn)阻塞的性能問(wèn)題。 此參數(shù)設(shè)置就是解決這類問(wèn)題,建議開(kāi)啟。
slave-lazy-flush
針對(duì)slave進(jìn)行全量數(shù)據(jù)同步,slave在加載master的RDB文件前,會(huì)運(yùn)行FLUSHALL來(lái)清理自己的數(shù)據(jù)場(chǎng)景。
參數(shù)設(shè)置決定是否采用lazy free flush機(jī)制。如果內(nèi)存變動(dòng)不大,建議可開(kāi)啟??蓽p少全量同步耗時(shí),從而減少主庫(kù)因輸出緩沖區(qū)爆漲引起的內(nèi)存使用增長(zhǎng)。
總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Redis+Caffeine如何構(gòu)建高性能二級(jí)緩存
這篇文章主要介紹了Redis+Caffeine如何構(gòu)建高性能二級(jí)緩存問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2025-05-05
redis實(shí)現(xiàn)分布式全局唯一id的示例代碼
在某些場(chǎng)景中,我們需要生成全局的唯一ID,本文主要介紹了redis實(shí)現(xiàn)分布式全局唯一id的示例代碼,具有一定的參考價(jià)值,感興趣的可以了解一下2024-04-04
如何向redis中寫(xiě)入大量的數(shù)據(jù)
文章介紹了通過(guò)Python腳本生成Redis命令并輸出至文件,再用Shell腳本批量執(zhí)行的流程,強(qiáng)調(diào)Pipeline技術(shù)可提升批量寫(xiě)入效率,并說(shuō)明如何驗(yàn)證數(shù)據(jù)插入成功2025-08-08
Redis實(shí)現(xiàn)編碼生成規(guī)則方式
在自動(dòng)生成編碼時(shí)應(yīng)采用“MD+年月日+4位序列號(hào)”的規(guī)則,如“MD202310130001”,為避免使用隨機(jī)序列號(hào)導(dǎo)致的重復(fù)編碼,建議使用從0開(kāi)始的自增序列號(hào),此外,使用Redis的incrBy功能實(shí)現(xiàn)序列號(hào)自增,可以有效提高效率和降低實(shí)現(xiàn)難度2023-01-01
深入解析Redisson分布式鎖看門(mén)狗機(jī)制
本文主要介紹了深入解析Redisson分布式鎖看門(mén)狗機(jī)制,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2025-06-06

