Redis KEYS查詢大批量數(shù)據(jù)替代方案
前言
在使用 Redis 時(shí),KEYS 命令雖然簡(jiǎn)單直接,但其全表掃描的特性在處理大規(guī)模數(shù)據(jù)時(shí)會(huì)導(dǎo)致性能問(wèn)題,甚至可能阻塞 Redis 服務(wù)。本文將介紹SCAN命令、有序集合、哈希表和RediSearch模塊四種替代 KEYS 的高效方案,以應(yīng)對(duì)大批量數(shù)據(jù)的查詢和管理。根據(jù)本人實(shí)際使用情況,查詢Redis大批量數(shù)據(jù)的情況下推薦使用SCAN命令較好。
KEYS命令問(wèn)題背景
KEYS 命令會(huì)遍歷整個(gè)鍵空間,對(duì)于包含大量鍵的 Redis 實(shí)例,這可能導(dǎo)致以下問(wèn)題:
高延遲:執(zhí)行時(shí)間較長(zhǎng),影響其他命令的響應(yīng)速度。
阻塞 Redis:在單線程模型下,KEYS 會(huì)阻塞 Redis 服務(wù)器,導(dǎo)致其他操作無(wú)法及時(shí)處理。
內(nèi)存消耗:返回所有匹配的鍵可能會(huì)占用大量?jī)?nèi)存。
因此,在生產(chǎn)環(huán)境中應(yīng)盡量避免使用 KEYS 命令。
替代方案
1.使用 SCAN 命令
理論介紹
SCAN 是一個(gè)增量迭代器,可以分批逐步遍歷鍵空間,避免一次性加載所有鍵。它支持游標(biāo)(cursor)機(jī)制,允許用戶通過(guò)多次調(diào)用來(lái)完成完整的遍歷。
優(yōu)點(diǎn)
非阻塞:不會(huì)阻塞 Redis 服務(wù)器,適合在線環(huán)境。
低資源消耗:每次只返回少量鍵,減少內(nèi)存壓力。
缺點(diǎn)
結(jié)果集不固定:SCAN 的結(jié)果集不是固定的,可能會(huì)有重復(fù)或遺漏的鍵,特別是在鍵頻繁變化的情況下。
額外參數(shù):需要合理設(shè)置 COUNT 參數(shù)以平衡遍歷速度和資源消耗。
示例代碼
/**
* scan命令測(cè)試
* @author senfel
* @date 2024/12/26 11:34
* @return void
*/
@Test
public void scan() {
try (Jedis jedis = new Jedis("localhost", 6379)) {
String cursor = "0";
ScanParams scanParams = new ScanParams().match("sys_dict:*").count(100);
do {
ScanResult<String> scanResult = jedis.scan(cursor, scanParams);
for (String key : scanResult.getResult()) {
System.out.println("Found key: " + key);
}
cursor = scanResult.getCursor();
} while (!cursor.equals("0"));
}
}
2. 使用有序集合(Sorted Set)
理論介紹
如果需要對(duì)鍵進(jìn)行排序或范圍查詢,可以考慮將鍵存儲(chǔ)在有序集合中,并為每個(gè)鍵分配一個(gè)唯一的分?jǐn)?shù)(score)。這樣可以通過(guò) ZRANGE 或 ZREVRANGE 等命令高效地獲取指定范圍內(nèi)的鍵。
優(yōu)點(diǎn)
高效查詢:支持快速的范圍查詢和排序。
靈活性:可以根據(jù)業(yè)務(wù)需求調(diào)整分?jǐn)?shù)規(guī)則。
缺點(diǎn)
額外開(kāi)銷:需要維護(hù)有序集合,增加了寫入操作的復(fù)雜度。
示例代碼
/**
* sortSet
* @author senfel
* @date 2024/12/26 11:51
* @return void
*/
@Test
public void sortSet() {
try (Jedis jedis = new Jedis("localhost", 6379)) {
// 添加鍵到有序集合
for (int i = 0; i < 100; i++) {
jedis.zadd("sorted_keys", System.currentTimeMillis(), "senfel"+i);
}
// 獲取前 10 個(gè)鍵
Set<String> keys = jedis.zrange("sorted_keys", 0, 9);
for (String key : keys) {
System.out.println("Key from sorted set: " + key);
}
}
}
3. 使用哈希(Hash)
理論介紹
如果鍵具有相似的結(jié)構(gòu)或?qū)儆谕活惸?,可以將它們存?chǔ)在一個(gè)哈希表中,每個(gè)字段代表一個(gè)鍵。這樣可以通過(guò) HGETALL 或 HSCAN 來(lái)批量獲取相關(guān)鍵。
優(yōu)點(diǎn)
集中管理:便于批量操作和維護(hù)。
高效訪問(wèn):哈希表提供了 O(1) 的查找性能。
缺點(diǎn)
適用范圍有限:適用于鍵具有相同前綴或分類的情況。
示例代碼
/**
* useHash
* @author senfel
* @date 2024/12/26 11:55
* @return void
*/
@Test
public void useHash() {
try (Jedis jedis = new Jedis("localhost", 6379)) {
for (int i = 0; i < 100; i++) {
// 添加鍵到哈希表
jedis.hset("user_data", "name"+i, "senfel"+i);
}
// 獲取所有鍵值對(duì)
Map<String, String> userData = jedis.hgetAll("user_data");
for (Map.Entry<String, String> entry : userData.entrySet()) {
System.out.println("User data: " + entry.getKey() + " -> " + entry.getValue());
}
}
}
4. 使用 Redis 模塊(如 RediSearch)
理論介紹
Redis 模塊擴(kuò)展了 Redis 的功能,其中 RediSearch 提供了全文搜索和索引功能,能夠高效地管理和查詢大量數(shù)據(jù)。它支持復(fù)雜的查詢語(yǔ)法和過(guò)濾條件。
RediSearch安裝推薦使用Docker
docker run --name redisearch -p 16379:6379 -v redis-data:/data redis/redis-stack-server:latest
優(yōu)點(diǎn)
強(qiáng)大查詢能力:支持全文搜索、模糊匹配等高級(jí)查詢。
高性能:優(yōu)化的索引結(jié)構(gòu)保證了高效的查詢性能。
缺點(diǎn)
依賴外部模塊:需要安裝和配置 Redis 模塊。
學(xué)習(xí)成本:API 和配置相對(duì)復(fù)雜,需要一定的時(shí)間熟悉。
maven依賴
<dependency>
<groupId>com.redislabs</groupId>
<artifactId>jredisearch</artifactId>
<version>2.0.0</version>
</dependency>
示例代碼
/**
* useRediSearch 未安裝RediSearch未測(cè)試
* @author senfel
* @date 2024/12/26 12:26
* @return void
*/
@Test
public void useRediSearch() {
Client client = Client.create("localhost", 6379).connect();
// 創(chuàng)建索引并添加文檔
client.ftCreate("idx", Schema.newBuilder()
.addField(new TextField("title"))
.addField(new TextField("content"))
.build());
client.ftAdd("idx", "doc1", 1.0, Document.newDocument()
.addField("title", "Redis Search")
.addField("content", "Learn how to use Redis Search"));
// 查詢文檔
SearchResult result = client.ftSearch("idx", new Query("Redis"));
for (Document doc : result.documents()) {
System.out.println("Found document: " + doc.getId());
}
client.close();
}
總結(jié)
綜上所述,Redis 大批量數(shù)據(jù)解決方案目前有SCAN命令、有序集合、哈希表、RediSearch擴(kuò)展模塊。一般對(duì)于Redis 大批量鍵遍歷可以使用非阻塞低資源消耗的SCAN 命令,對(duì)于需要排序或范圍查詢的場(chǎng)景則使用有序集合,對(duì)于鍵具有相同前綴或分類的情況可以使用哈希表,如果需要全文搜索或復(fù)雜查詢則可以使用高性能強(qiáng)大查詢能力的RediSearch。
以上就是Redis KEYS查詢大批量數(shù)據(jù)替代方案的詳細(xì)內(nèi)容,更多關(guān)于Redis KEYS數(shù)據(jù)替代方案的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解
這篇文章主要給大家介紹了關(guān)于Redis和Lua實(shí)現(xiàn)分布式限流器的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用Redis和Lua具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-06-06
Redis遠(yuǎn)程字典服務(wù)器?hash類型示例詳解
這篇文章主要介紹了Redis遠(yuǎn)程字典服務(wù)器?hash類型示例詳解,本文通過(guò)示例代碼給大家介紹的非常詳細(xì),感興趣的朋友跟隨小編一起看看吧2024-08-08
redis執(zhí)行l(wèi)ua腳本的實(shí)現(xiàn)
本文主要介紹了redis執(zhí)行l(wèi)ua腳本的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2024-10-10
查詢?cè)L問(wèn)Redis特定數(shù)據(jù)庫(kù)的客戶端IP的操作指南
在Redis運(yùn)維和開(kāi)發(fā)過(guò)程中,了解哪些客戶端連接并訪問(wèn)了特定的數(shù)據(jù)庫(kù)(如db0)是一個(gè)常見(jiàn)的需求,然而,Redis本身并不直接提供歷史訪問(wèn)日志,因此我們需要借助一些內(nèi)置命令和外部工具來(lái)實(shí)現(xiàn)這一目標(biāo),本文將詳細(xì)介紹如何查詢?cè)L問(wèn)Redis特定數(shù)據(jù)庫(kù)(如db0)的客戶端IP2025-06-06
Redis開(kāi)啟鍵空間通知實(shí)現(xiàn)超時(shí)通知的步驟詳解
這篇文章主要介紹了Redis開(kāi)啟鍵空間通知實(shí)現(xiàn)超時(shí)通知的步驟,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-06-06
Redis高并發(fā)緩存問(wèn)題分析及解決過(guò)程
文章總結(jié)了Redis緩存的六種常見(jiàn)問(wèn)題及其解決方案:緩存穿透、緩存擊穿、緩存雪崩、熱點(diǎn)key重建優(yōu)化、緩存和數(shù)據(jù)庫(kù)雙寫不一致,以及Redis對(duì)過(guò)期key的三種清除策略,每種問(wèn)題都提供了詳細(xì)的原因分析和具體的解決方案2025-01-01
淺談RedisTemplate和StringRedisTemplate的區(qū)別
本文主要介紹了RedisTemplate和StringRedisTemplate的區(qū)別及個(gè)人見(jiàn)解,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-06-06

