前因后果

之前我們的服務(wù)，在上線的時候發(fā)現(xiàn)有一些大Key的使用不是很規(guī)范，特別是沒有設(shè)置過期時間，因此導(dǎo)致redis中內(nèi)存的數(shù)據(jù)越來越多，目前Redis節(jié)點的內(nèi)存已經(jīng)快撐不住了。所以根據(jù)緩存鍵的規(guī)則去批量刪除這些數(shù)據(jù)，比較常見的就是按前綴去刪除。

現(xiàn)在由于不得以為的原因要刪除這幾百個Key-Value的數(shù)據(jù)，這個時候我們肯定就要把緩存鍵全部刪除掉。一般情況下在Redis中是可以很容易去實現(xiàn)的。但是如果在不阻塞業(yè)務(wù)的前提下，并且以高效的方式進行清理內(nèi)存數(shù)據(jù)。就需要好好想想辦法了。

批量刪除redis數(shù)據(jù)方法

利用的是Linux的xargs命令

我們可以通過redis-cli的模式，進行訪問之后登錄到了Redis-Server服務(wù)，由于是必須要使用Linux的xargs命令，所以必須要連帶指令在Linux環(huán)境，而不能提前通過redis-cli進行登錄到redis-server服務(wù)。否則會報錯說??xargs??無效。

redis-cli -h [ip] -p [port ] -a [password] keys "prefix*" | xargs redis-cli -h 127.0.0.1 -p 6379 -a '123' del

上面的指令主要由三部分連接組成：

• redis-cli -h [ip] -p [port ] -a [password]：主要需要用于登錄到redis-cli的只處理操作。
• keys "prefix*"：隨后主要是通過redis-cli的命令進行 keys指令進行匹配某前綴相關(guān)的數(shù)據(jù)集合。
• | xargs redis-cli -h [ip] -p [port ] -a [password] del：主要是通過管道符進行連接，之后再進行連接redis-server服務(wù)，之后進行將之前的參數(shù)傳入到xargs之后，作為del的參數(shù)進行執(zhí)行刪除操作。

xargs指令

xargs：是一條Unix和類Unix操作系統(tǒng)的常用命令；它的作用是將參數(shù)列表轉(zhuǎn)換成小塊分段傳遞給其他命令，以避免參數(shù)列表過長的問題?？蓡为毷褂?，也可使用管道符、重定位符等與其他命令配合使用。

xargs [ -p ] [ -t] [ -e[ EOFString ] ] [ -EEOFString ] [ -i[ ReplaceString ] ] [ -IReplaceString ] [ -l [ Number ] ] [ -L Number ] [ -n Number [ -x ] ] [ -s Size ] [ Command [ Argument ... ] ]

命令格式

xargs：一般是和管道一起使用。

somecommand |xargs -item command

參數(shù)：

• -a file 從文件中讀入作為 stdin
• -e flag ，注意有的時候可能會是-E，flag必須是一個以空格分隔的標志，當xargs分析到含有flag這個標志的時候就停止。
• -p 當每次執(zhí)行一個argument的時候詢問一次用戶。
• -n num 后面加次數(shù)，表示命令在執(zhí)行的時候一次用的argument的個數(shù)，默認是用所有的。
• -t 表示先打印命令，然后再執(zhí)行。
• -i 或者是-I，這得看linux支持了，將xargs的每項名稱，一般是一行一行賦值給 {}，可以用 {} 代替。
• -r no-run-if-empty 當xargs的輸入為空的時候則停止xargs，不用再去執(zhí)行了。
• -s num 命令行的最大字符數(shù)，指的是 xargs 后面那個命令的最大命令行字符數(shù)。
• -L num 從標準輸入一次讀取 num 行送給 command 命令。
• -l 同 -L。
• -d delim 分隔符，默認的xargs分隔符是回車，argument的分隔符是空格，這里修改的是xargs的分隔符。
• -x exit的意思，主要是配合-s使用。。
• -P 修改最大的進程數(shù)，默認是1，為0時候為as many as it can ，這個例子我沒有想到，應(yīng)該平時都用不到的吧。

使用Lua腳本刪除百萬/千萬級的key

如果以上xargs方法刪除不了的，或者執(zhí)行xargs命令報錯的。那么可以使用lua腳本，redis有內(nèi)置的lua解釋器。在lua腳本中使用scan掃描key，并依次刪除，當刪除數(shù)量達到1萬時，腳本直接返回，完成本次調(diào)用，如果刪除的key數(shù)量大于0，就循環(huán)調(diào)用腳本進行刪除。

Warning: a NUL character occurred in the input. It cannot be passed through in the argument list. Did you mean to use the --null option?

Lua腳本是什么？

Lua是一種輕量小巧的腳本語言，用標準C語言編寫并以源代碼形式開放， 其設(shè)計目的是為了嵌入應(yīng)用程序中，從而為應(yīng)用程序提供靈活的擴展和定制功能。其設(shè)計目的是為了嵌入應(yīng)用程序中，從而為應(yīng)用程序提供靈活的擴展和定制功能。

Lua腳本的指令格式

有興趣的小伙伴，可以參考：? ?http://redis.cn/commands/eval.html??

EVAL script numkeys key [key …] arg [arg …]

• script:待執(zhí)行的腳本文件
• numkeys:key的個數(shù)

Lua腳本執(zhí)行參數(shù)

• ??[key …]??:對應(yīng)的key，可以是一個，可以是多個
• ??[arg …]??:與key對應(yīng)的值，可以是一個，可以是多個

Lua獲取傳參數(shù)據(jù)

Lua的下表索引是從1開始的，key的獲取方式，KEYS[下標索引]，如KEYS[1],取第一個值，值的獲取，ARGV[1]

示例

eval “return {KEYS[1],KEYS[2],ARGV[1],ARGV[2]}” 2 key1 key2 first second

Lua腳本的案例（keys）

• 獲取傳入的需要批量刪除的key的前綴
• 記住 lua的下標索引是從1開始 不是0 不是0 不是0

local key = KEYS[1]
if( key ~= nil) then
--這里通過keys查詢出所有符合條件的數(shù)據(jù)
local dataList = redis.call('keys',KEYS[1])
--判斷是否找到數(shù)據(jù)
if(dataList ~= nil) then
--循環(huán)刪除
for i=1,#dataList,1 do
redis.call('del',dataList[i])
end
--返回刪除的行數(shù)
return #dataList
else
return 0
end
else
return 0
end

推薦使用scan獲取數(shù)據(jù)刪除，我們知道redis是一個單線程的，當我們庫里面存在大量數(shù)據(jù)的時候，使用keys * 的方式匹配數(shù)據(jù)的時候，可能需要好幾秒才能處理完，那么在這個幾秒的時間里是處于線程阻塞的，其他所有的redis操作都是處于等待狀態(tài)，這樣對系統(tǒng)的可用性是有影響的，因此，這里使用scan的方式匹配數(shù)據(jù)。

scan介紹

SCAN cursor [MATCH pattern] [COUNT count]

SCAN 命令是一個基于游標的迭代器（cursor based iterator）： SCAN 命令每次被調(diào)用之后， 都會向用戶返回一個新的游標， 用戶在下次迭代時需要使用這個新游標作為 SCAN 命
令的游標參數(shù)， 以此來延續(xù)之前的迭代過程。

Lua腳本的案例（scan）

local limitSize = tonumber(ARGV[1]) -- 最多刪除多少個key
local batchSize = limitSize -- scan一次最多掃描多少個key
if (batchSize > 10000) then -- 一次掃描不能超過1w條
batchSize = 10000
end
local function scan(key)
local cursor = 0
local keynum = 0
repeat
local res = redis.call("scan", cursor, "match", key, 'COUNT', batchSize)
if (res ~= nil and #res >= 0) then
redis.replicate_commands()
cursor = tonumber(res[1])
local ks = res[2]
local size = #ks
for i=1,size,1 do
redis.call("del", tostring(ks[i]))
keynum = keynum + 1
if (keynum >= limitSize) then -- 已經(jīng)刪除了指定數(shù)量的key, 返回
return keynum
end
end
end
until (cursor <= 0)
return keynum
end
local total = scan(KEYS[1])
return total

當 SCAN 命令的游標參數(shù)被設(shè)置為 0 時， 服務(wù)器將開始一次新的迭代， 而當服務(wù)器向用戶返回值為 0 的游標時， 表示迭代已結(jié)束。

通俗點理解就是，基于游標的迭代器redis會慢慢一次次的將數(shù)據(jù)返回回來，從而防止線程阻塞。

此外還有一個小貼士就是可以使用UNLINK刪除，區(qū)別于del的是這個是異步執(zhí)行的，這條指令要版本大于4.0.0 小于4.0.0就使用del

redis.call("UNLINK",key)

到此這篇關(guān)于使用Redis緩存時高效的批量刪除的幾種方案的文章就介紹到這了,更多相關(guān)Redis批量刪除的幾種方案內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論