Tomcat修正JDK原生線程池bug的實現原理

更新時間：2021年08月19日 10:33:21 作者：JavaEdge.

這篇文章主要介紹了Tomcat是如何修正JDK原生線程池bug的，本文通過實例代碼給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下

為提高處理能力和并發(fā)度，Web容器一般會把處理請求的任務放到線程池，而JDK的原生線程池先天適合CPU密集型任務，于是Tomcat改造之。

Tomcat 線程池原理

其實ThreadPoolExecutor的參數主要有如下關鍵點：

限制線程個數

限制隊列長度

而Tomcat對這倆資源都需要限制，否則高并發(fā)下CPU、內存都有被耗盡可能。
因此Tomcat的線程池傳參：

// 定制的任務隊列
taskqueue = new TaskQueue(maxQueueSize);

// 定制的線程工廠
TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
							                 daemon,
							                 getThreadPriority()
);

// 定制線程池
executor = new ThreadPoolExecutor(getMinSpareThreads(),
								  getMaxThreads(),
				 			      maxIdleTime, 
				 			      TimeUnit.MILLISECONDS,
				 			      taskqueue,
				 			      tf);

Tomcat對線程數也有限制，設置：

核心線程數（minSpareThreads）
最大線程池數（maxThreads）

Tomcat線程池還有自己的特色任務處理流程，通過重寫execute方法實現了自己的特色任務處理邏輯：

前corePoolSize個任務時，來一個任務就創(chuàng)建一個新線程
再有任務，就把任務放入任務隊列，讓所有線程去搶。若隊列滿，就創(chuàng)建臨時線程
總線程數達到maximumPoolSize，則繼續(xù)嘗試把任務放入任務隊列
若緩沖隊列也滿了，插入失敗，執(zhí)行拒絕策略

和 JDK 線程池的區(qū)別就在step3，Tomcat在線程總數達到最大數時，不是立即執(zhí)行拒絕策略，而是再嘗試向任務隊列添加任務，添加失敗后再執(zhí)行拒絕策略。

具體又是如何實現的呢？

public void execute(Runnable command, long timeout, TimeUnit unit) {
    submittedCount.incrementAndGet();
    try {
        // 調用JDK原生線程池的execute執(zhí)行任務
        super.execute(command);
    } catch (RejectedExecutionException rx) {
       // 總線程數達到maximumPoolSize后，JDK原生線程池會執(zhí)行默認拒絕策略
        if (super.getQueue() instanceof TaskQueue) {
            final TaskQueue queue = (TaskQueue)super.getQueue();
            try {
                // 繼續(xù)嘗試把任務放入任務隊列
                if (!queue.force(command, timeout, unit)) {
                    submittedCount.decrementAndGet();
                    // 若緩沖隊列還是滿了，插入失敗，執(zhí)行拒絕策略。
                    throw new RejectedExecutionException("...");
                }
            } 
        }
    }
}

定制任務隊列

Tomcat線程池的execute方法第一行：

submittedCount.incrementAndGet();

任務執(zhí)行失敗，拋異常時，將該計數器減一：

submittedCount.decrementAndGet();

Tomcat線程池使用 submittedCount 變量維護已提交到線程池，但未執(zhí)行完的任務數量。

為何要維護這樣一個變量呢？

Tomcat的任務隊列TaskQueue擴展了JDK的LinkedBlockingQueue，Tomcat給了它一個capacity，傳給父類LinkedBlockingQueue的構造器。

public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  public TaskQueue(int capacity) {
      super(capacity);
  }
  ...
}

capacity參數通過Tomcat的maxQueueSize參數設置，但maxQueueSize默認值Integer.MAX_VALUE：當前線程數達到核心線程數后，再來任務的話線程池會把任務添加到任務隊列，并且總會成功，就永遠無機會創(chuàng)建新線程了。

為解決該問題，TaskQueue重寫了LinkedBlockingQueue#offer，在合適時機返回false，表示任務添加失敗，這時線程池就會創(chuàng)建新線程。

什么叫合適時機？

public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  ...
   @Override
  // 線程池調用任務隊列的方法時，當前線程數 ＞ core線程數
  public boolean offer(Runnable o) {

      // 若線程數已達max，則不能創(chuàng)建新線程，只能放入任務隊列
      if (parent.getPoolSize() == parent.getMaximumPoolSize()) 
          return super.offer(o);
          
      // 至此，表明 max線程數 > 當前線程數 ＞ core線程數
      // 說明可創(chuàng)建新線程：
      
      // 1. 若已提交任務數 ＜ 當前線程數
      //    表明還有空閑線程，無需創(chuàng)建新線程
      if (parent.getSubmittedCount()<=(parent.getPoolSize())) 
          return super.offer(o);
          
      // 2. 若已提交任務數 ＞ 當前線程數
      //    線程不夠用了，返回false去創(chuàng)建新線程
      if (parent.getPoolSize()<parent.getMaximumPoolSize()) 
          return false;
          
      // 默認情況下總是把任務放入任務隊列
      return super.offer(o);
  }
  
}

所以Tomcat維護 已提交任務數 是為了在任務隊列長度無限時，讓線程池還能有機會創(chuàng)建新線程。

到此這篇關于Tomcat是如何修正JDK原生線程池bug的的文章就介紹到這了,更多相關Tomcat JDK原生線程池內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: