1、前言

1.1、什么是延遲隊列

延時隊列相比于普通隊列最大的區(qū)別就體現(xiàn)在其延時的屬性上，普通隊列的元素是先進先出，按入隊順序進行處理，而延時隊列中的元素在入隊時會指定一個延遲時間，表示其希望能夠在經(jīng)過該指定時間后處理。從某種意義上來講，延遲隊列的結(jié)構(gòu)并不像一個隊列，而更像是一種以時間為權(quán)重的有序堆結(jié)構(gòu)。

1.2、應(yīng)用場景

我們在一些業(yè)務(wù)場景中，經(jīng)常會遇到一些需要經(jīng)歷一段時間后，或者到達某個時間節(jié)點才會執(zhí)行的功能。就比如以下這些場景：

新建一個訂單，在規(guī)定時間內(nèi)未支付需要自動取消 外賣或者打車在預(yù)計時間到達的前十分鐘提醒騎手或者司機即將超時 快遞收貨后在規(guī)定時間內(nèi)用戶沒有確認(rèn)收貨會自動確認(rèn)收貨 預(yù)定的會議在會議開始前十分鐘會去提醒你盡快加入會議 每日周報在截止半小時前會提醒你盡快提交

1.3、為什么要使用延遲隊列

對于一些數(shù)據(jù)量小并且對數(shù)據(jù)的時效性不怎么要求的項目來說，最簡單有效的方法就是寫一個定時任務(wù)去掃描數(shù)據(jù)庫以達到業(yè)務(wù)的實現(xiàn)。當(dāng)然，如果在數(shù)據(jù)達到數(shù)百萬或者千萬級別的時候，如果去定時掃描數(shù)據(jù)庫，容易挨揍哈。想信大家也有所了解，當(dāng)數(shù)據(jù)達到這種地步的時候，還去定時掃表會非常低效，甚至對于那些定時間隔比較小的情景來說，這一遍還沒掃完下一遍就要開始了。這時候如果用延遲隊列的話或許會很有效。

實現(xiàn)延遲隊列的幾種途徑

• Quartz 定時任務(wù)
• DelayQueue 延遲隊列
• Redis sorted set Redis
• 過期鍵監(jiān)聽回調(diào)
• RabbitMQ死信隊列
• RabbitMQ基于插件實現(xiàn)延遲隊列
• wheel時間輪算法

2、Redis sorted set

在Redis中，zet作為有序集合，可以利用其有序的特性，將任務(wù)添加到zset中，將任務(wù)的到期時間作為score，利用zset的默認(rèn)有序特性，獲取score值最小的元素（也就是最近到期的任務(wù)），判斷系統(tǒng)時間與該任務(wù)的到期時間大小，如果達到到期時間，就執(zhí)行業(yè)務(wù)，并刪除該到期任務(wù)，繼續(xù)判斷下一個元素，如果沒有到期，就sleep一段時間（比如1秒），如果集合為空，也sleep一段時間。

通過zadd命令向隊列delayqueue中添加元素，并設(shè)置score值表示元素過期的時間；向delayqueue添加三個order1、order2、order3，分別是10秒、20秒、30秒后過期。

zadd delayqueue 3 order3

消費端輪詢隊列delayqueue，將元素排序后取最小時間與當(dāng)前時間比對，如小于當(dāng)前時間代表已經(jīng)過期移除key。

/**
 * 消費消息
 */
public void pollOrderQueue() {
    while (true) {
        Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);
        String value = ((Tuple) set.toArray()[0]).getElement();
        int score = (int) ((Tuple) set.toArray()[0]).getScore();
        Calendar cal = Calendar.getInstance();
        int nowSecond = (int) (cal.getTimeInMillis() / 1000);
        if (nowSecond >= score) {
            jedis.zrem(DELAY_QUEUE, value);
            System.out.println(sdf.format(new Date()) + " removed key:" + value);
        }
        if (jedis.zcard(DELAY_QUEUE) <= 0) {
            System.out.println(sdf.format(new Date()) + " zset empty ");
            return;
        }
        Thread.sleep(1000);
    }
} 

我們看到執(zhí)行結(jié)果符合預(yù)期：

2020-05-07 13:24:09 add finished.
2020-05-07 13:24:19 removed key:order1
2020-05-07 13:24:29 removed key:order2
2020-05-07 13:24:39 removed key:order3
2020-05-07 13:24:39 zset empty 

3、Redis 過期鍵監(jiān)聽回調(diào)

Redis的key過期回調(diào)事件，也能達到延遲隊列的效果，簡單來說我們開啟監(jiān)聽key是否過期的事件，一旦key過期會觸發(fā)一個callback事件。

修改redis.conf文件開啟notify-keyspace-events Ex。 notify-keyspace-events Ex

Redis監(jiān)聽配置，注入Bean RedisMessageListenerContainer。

其次，配置redis監(jiān)聽器 最后，編寫redis key過期監(jiān)聽回調(diào)方法

@Configuration
public class RedisListenerConfig {
@Bean
RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {
        RedisMessageListenerContainer container = new RedisMessageListenerContainer();
        container.setConnectionFactory(connectionFactory);
         return container;
    }
} 

編寫Redis過期回調(diào)監(jiān)聽方法，必須繼承KeyExpirationEventMessageListener ，有點類似于MQ的消息監(jiān)聽。

@Component
public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {
public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
    super(listenerContainer);
}
@Override
public void onMessage(Message message, byte[] pattern) {
      String expiredKey = message.toString();
      System.out.println("監(jiān)聽到key：" + expiredKey + "已過期");
    }
} 

到這代碼就編寫完成，非常的簡單，接下來測試一下效果，在redis-cli客戶端添加一個key并給定3s的過期時間。

set xiaofu 123 ex 3

在控制臺成功監(jiān)聽到了這個過期的key。

監(jiān)聽到過期的key為：xiaofu

4、Quartz定時任務(wù)

Quartz一款非常經(jīng)典任務(wù)調(diào)度框架，在Redis、RabbitMQ還未廣泛應(yīng)用時，超時未支付取消訂單功能都是由定時任務(wù)實現(xiàn)的。

導(dǎo)入Quartz依賴

<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-quartz</artifactId>
</dependency>
>在啟動類中使用@EnableScheduling注解開啟定時任務(wù)功能。
```java
@SpringBootApplication
@EnableScheduling
public class DelayQueueApplication {
    public static void main(String[] args) {
        SpringApplication.run(DelayQueueApplication.class, args);
    }
}

編寫定時任務(wù)

@Slf4j
@Component
public class QuartzDemo {
    /**
     * 每隔五秒開啟一次任務(wù)
     */
    @Scheduled(cron = "0/5 * * * * ? ")
    public void process(){
        log.info("--------------定時任務(wù)測試--------------");
    }
}

5、DelayQueue 延遲隊列

JDK中提供了一組實現(xiàn)延遲隊列的API，位于Java.util.concurrent包下DelayQueue。

DelayQueue是一個BlockingQueue（無界阻塞）隊列，它本質(zhì)就是封裝了一個PriorityQueue（優(yōu)先隊列），PriorityQueue內(nèi)部使用完全二叉堆（不知道的自行了解哈）來實現(xiàn)隊列元素排序，我們在向DelayQueue隊列中添加元素時，會給元素一個Delay（延遲時間）作為排序條件，隊列中最小的元素會優(yōu)先放在隊首。隊列中的元素只有到了Delay時間才允許從隊列中取出。隊列中可以放基本數(shù)據(jù)類型或自定義實體類，在存放基本數(shù)據(jù)類型時，優(yōu)先隊列中元素默認(rèn)升序排列，自定義實體類就需要我們根據(jù)類屬性值比較計算了。 先簡單實現(xiàn)一下看看效果，添加三個order入隊DelayQueue，分別設(shè)置訂單在當(dāng)前時間的5秒、10秒、15秒后取消。

要實現(xiàn)DelayQueue延時隊列，隊中元素要implements Delayed 接口，這哥接口里只有一個getDelay方法，用于設(shè)置延期時間。Order類中compareTo方法負(fù)責(zé)對隊列中的元素進行排序。

public class Order implements Delayed {
/**
 * 延遲時間
 */
@JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")
private long time;
String name;
public Order(String name, long time, TimeUnit unit) {
    this.name = name;
    this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);
}
@Override
public long getDelay(TimeUnit unit) {
    return time - System.currentTimeMillis();
}
@Override
public int compareTo(Delayed o) {
    Order Order = (Order) o;
    long diff = this.time - Order.time;
    if (diff <= 0) {
        return -1;
    } else {
        return 1;
    }
}
} 

DelayQueue的put方法是線程安全的，因為put方法內(nèi)部使用了ReentrantLock鎖進行線程同步。DelayQueue還提供了兩種出隊的方法poll()和take() ， poll()為非阻塞獲取，沒有到期的元素直接返回null；take()阻塞方式獲取，沒有到期的元素線程將會等待。

public class DelayQueueDemo {
public static void main(String[] args) throws InterruptedException {
    Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);
    Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);
    Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);
    DelayQueue<Order> delayQueue = new DelayQueue<>();
    delayQueue.put(Order1);
    delayQueue.put(Order2);
    delayQueue.put(Order3);
    System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
    while (delayQueue.size() != 0) {
        /**
         * 取隊列頭部元素是否過期
         */
        Order task = delayQueue.poll();
        if (task != null) {
            System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name,  
            LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
        }
        Thread.sleep(1000);
    }
}
} 

上邊只是簡單的實現(xiàn)入隊與出隊的操作，實際開發(fā)中會有專門的線程，負(fù)責(zé)消息的入隊與消費。

執(zhí)行后看到結(jié)果如下，Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執(zhí)行，至此就用DelayQueue實現(xiàn)了延時隊列。

訂單延遲隊列開始時間：2020-05-06 14:59:09

訂單：{Order1}被取消, 取消時間:{2020-05-06 14:59:14}

訂單：{Order2}被取消, 取消時間:{2020-05-06 14:59:19}

訂單：{Order3}被取消, 取消時間:{2020-05-06 14:59:24}

6、RabbitMQ 延時隊列

利用 RabbitMQ 做延時隊列是比較常見的一種方式，而實際上RabbitMQ 自身并沒有直接支持提供延遲隊列功能，而是通過 RabbitMQ 消息隊列的 TTL和 DXL這兩個屬性間接實現(xiàn)的。

先來認(rèn)識一下 TTL和 DXL兩個概念：

Time To Live(TTL) ：

TTL 顧名思義：指的是消息的存活時間，RabbitMQ可以通過x-message-tt參數(shù)來設(shè)置指定Queue（隊列）和 Message（消息）上消息的存活時間，它的值是一個非負(fù)整數(shù)，單位為微秒。

RabbitMQ 可以從兩種維度設(shè)置消息過期時間，分別是隊列和消息本身

設(shè)置隊列過期時間，那么隊列中所有消息都具有相同的過期時間。 設(shè)置消息過期時間，對隊列中的某一條消息設(shè)置過期時間，每條消息TTL都可以不同。 如果同時設(shè)置隊列和隊列中消息的TTL，則TTL值以兩者中較小的值為準(zhǔn)。而隊列中的消息存在隊列中的時間，一旦超過TTL過期時間則成為Dead Letter（死信）。

Dead Letter Exchanges（DLX）

DLX即死信交換機，綁定在死信交換機上的即死信隊列。RabbitMQ的 Queue（隊列）可以配置兩個參數(shù)x-dead-letter-exchange 和 x-dead-letter-routing-key（可選），一旦隊列內(nèi)出現(xiàn)了Dead Letter（死信），則按照這兩個參數(shù)可以將消息重新路由到另一個Exchange（交換機），讓消息重新被消費。

x-dead-letter-exchange：隊列中出現(xiàn)Dead Letter后將Dead Letter重新路由轉(zhuǎn)發(fā)到指定 exchange（交換機）。

x-dead-letter-routing-key：指定routing-key發(fā)送，一般為要指定轉(zhuǎn)發(fā)的隊列。

隊列出現(xiàn)Dead Letter的情況有：

消息或者隊列的TTL過期

隊列達到最大長度

消息被消費端拒絕（basic.reject or basic.nack）

下邊結(jié)合一張圖看看如何實現(xiàn)超30分鐘未支付關(guān)單功能，我們將訂單消息A0001發(fā)送到延遲隊列order.delay.queue，并設(shè)置x-message-tt消息存活時間為30分鐘，當(dāng)?shù)竭_30分鐘后訂單消息A0001成為了Dead Letter（死信），延遲隊列檢測到有死信，通過配置x-dead-letter-exchange，將死信重新轉(zhuǎn)發(fā)到能正常消費的關(guān)單隊列，直接監(jiān)聽關(guān)單隊列處理關(guān)單邏輯即可。

發(fā)送消息時指定消息延遲的時間

public void send(String delayTimes) {
    amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數(shù)據(jù)", message -> {
      // 設(shè)置延遲毫秒值
      message.getMessageProperties().setExpiration(String.valueOf(delayTimes));
      return message;
    });
  }
}

設(shè)置延遲隊列出現(xiàn)死信后的轉(zhuǎn)發(fā)規(guī)則

/**
   * 延時隊列
   */
  @Bean(name = "order.delay.queue")
  public Queue getMessageQueue() {
    return QueueBuilder
        .durable(RabbitConstant.DEAD_LETTER_QUEUE)
        // 配置到期后轉(zhuǎn)發(fā)的交換
        .withArgument("x-dead-letter-exchange", "order.close.exchange")
        // 配置到期后轉(zhuǎn)發(fā)的路由鍵
        .withArgument("x-dead-letter-routing-key", "order.close.queue")
        .build();
  }

7、時間輪

前邊幾種延時隊列的實現(xiàn)方法相對簡單，比較容易理解，時間輪算法就稍微有點抽象了。kafka、netty都有基于時間輪算法實現(xiàn)延時隊列，下邊主要實踐Netty的延時隊列講一下時間輪是什么原理。

先來看一張時間輪的原理圖，解讀一下時間輪的幾個基本概念

wheel ：時間輪，圖中的圓盤可以看作是鐘表的刻度。比如一圈round 長度為24秒，刻度數(shù)為 8，那么每一個刻度表示 3秒。那么時間精度就是 3秒。時間長度 / 刻度數(shù)值越大，精度越大。

當(dāng)添加一個定時、延時任務(wù)A，假如會延遲25秒后才會執(zhí)行，可時間輪一圈round 的長度才24秒，那么此時會根據(jù)時間輪長度和刻度得到一個圈數(shù) round和對應(yīng)的指針位置 index，也是就任務(wù)A會繞一圈指向0格子上，此時時間輪會記錄該任務(wù)的round和 index信息。當(dāng)round=0，index=0 ，指針指向0格子 任務(wù)A并不會執(zhí)行，因為 round=0不滿足要求。

所以每一個格子代表的是一些時間，比如1秒和25秒 都會指向0格子上，而任務(wù)則放在每個格子對應(yīng)的鏈表中，這點和HashMap的數(shù)據(jù)有些類似。

Netty構(gòu)建延時隊列主要用HashedWheelTimer，HashedWheelTimer底層數(shù)據(jù)結(jié)構(gòu)依然是使用DelayedQueue，只是采用時間輪的算法來實現(xiàn)。

下面我們用Netty 簡單實現(xiàn)延時隊列，HashedWheelTimer構(gòu)造函數(shù)比較多，解釋一下各參數(shù)的含義。

ThreadFactory ：表示用于生成工作線程，一般采用線程池；

tickDuration和unit：每格的時間間隔，默認(rèn)100ms；

ticksPerWheel：一圈下來有幾格，默認(rèn)512，而如果傳入數(shù)值的不是2的N次方，則會調(diào)整為大于等于該參數(shù)的一個2的N次方數(shù)值，有利于優(yōu)化hash值的計算。

public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) {
    this(threadFactory, tickDuration, unit, ticksPerWheel, true);
  }

TimerTask：一個定時任務(wù)的實現(xiàn)接口，其中run方法包裝了定時任務(wù)的邏輯。

Timeout：一個定時任務(wù)提交到Timer之后返回的句柄，通過這個句柄外部可以取消這個定時任務(wù)，并對定時任務(wù)的狀態(tài)進行一些基本的判斷。 Timer：是HashedWheelTimer實現(xiàn)的父接口，僅定義了如何提交定時任務(wù)和如何停止整個定時機制。

public class NettyDelayQueue {
  public static void main(String[] args) {
    final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2);
    //定時任務(wù)
    TimerTask task1 = new TimerTask() {
      public void run(Timeout timeout) throws Exception {
        System.out.println("order1 5s 后執(zhí)行 ");
        timer.newTimeout(this, 5, TimeUnit.SECONDS);//結(jié)束時候再次注冊
      }
    };
    timer.newTimeout(task1, 5, TimeUnit.SECONDS);
    TimerTask task2 = new TimerTask() {
      public void run(Timeout timeout) throws Exception {
        System.out.println("order2 10s 后執(zhí)行");
        timer.newTimeout(this, 10, TimeUnit.SECONDS);//結(jié)束時候再注冊
      }
    };
    timer.newTimeout(task2, 10, TimeUnit.SECONDS);
    //延遲任務(wù)
    timer.newTimeout(new TimerTask() {
      public void run(Timeout timeout) throws Exception {
        System.out.println("order3 15s 后執(zhí)行一次");
      }
    }, 15, TimeUnit.SECONDS);
  }
}

從執(zhí)行的結(jié)果看，order3、order3延時任務(wù)只執(zhí)行了一次，而order2、order1為定時任務(wù)，按照不同的周期重復(fù)執(zhí)行。

order1 5s 后執(zhí)行
order2 10s 后執(zhí)行
order3 15s 后執(zhí)行一次
order1 5s 后執(zhí)行
order2 10s 后執(zhí)行

到此這篇關(guān)于Redis實現(xiàn)延遲隊列的全流程詳解的文章就介紹到這了,更多相關(guān)Redis延遲隊列內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論