Apache Spark 2.0 在作業(yè)完成時卻花費很長時間結(jié)束
現(xiàn)象
大家在使用 Apache Spark 2.x 的時候可能會遇到這種現(xiàn)象：雖然我們的 Spark Jobs 已經(jīng)全部完成了，但是我們的程序卻還在執(zhí)行。比如我們使用 Spark SQL 去執(zhí)行一些 SQL，這個 SQL 在最后生成了大量的文件。然后我們可以看到，這個 SQL 所有的 Spark Jobs 其實已經(jīng)運行完成了，但是這個查詢語句還在運行。通過日志，我們可以看到 driver 節(jié)點正在一個一個地將 tasks 生成的文件移動到最終表的目錄下面，當(dāng)我們作業(yè)生成的文件很多的情況下，就很容易產(chǎn)生這種現(xiàn)象。本文將給大家介紹一種方法來解決這個問題。
為什么會造成這個現(xiàn)象
Spark 2.x 用到了 Hadoop 2.x，其將生成的文件保存到 HDFS 的時候，最后會調(diào)用了 saveAsHadoopFile，而這個函數(shù)在里面用到了 FileOutputCommitter，如下：
問題就出在了 Hadoop 2.x 的 FileOutputCommitter 實現(xiàn)FileOutputCommitter 里面有兩個值得注意的方法：commitTask 和 commitJob。在 Hadoop 2.x 的FileOutputCommitter 實現(xiàn)里面，mapreduce.fileoutputcommitter.algorithm.version 參數(shù)控制著 commitTask 和 commitJob 的工作方式。具體代碼如下（為了說明方便，我去掉了無關(guān)緊要的語句，完整代碼可以參見 FileOutputCommitter.java）：
大家可以看到 commitTask 方法里面，有個條件判斷 algorithmVersion == 1，這個就是 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值，默認(rèn)為1；如果這個參數(shù)為1，那么在 Task 完成的時候，是將 Task 臨時生成的數(shù)據(jù)移到 task 的對應(yīng)目錄下，然后再在 commitJob 的時候移到最終作業(yè)輸出目錄，而這個參數(shù),在 Hadoop 2.x 的默認(rèn)值就是 1！這也就是為什么我們看到 job 完成了，但是程序還在移動數(shù)據(jù)，從而導(dǎo)致整個作業(yè)尚未完成，而且最后是由 Spark 的 Driver 執(zhí)行 commitJob 函數(shù)的，所以執(zhí)行的慢也是有到底的。
而我們可以看到，如果我們將 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值設(shè)置為 2，那么在 commitTask 執(zhí)行的時候，就會調(diào)用 mergePaths 方法直接將 Task 生成的數(shù)據(jù)從 Task 臨時目錄移動到程序最后生成目錄。而在執(zhí)行 commitJob 的時候，直接就不用移動數(shù)據(jù)了，自然會比默認(rèn)的值要快很多。
注意，其實在 Hadoop 2.7.0 之前版本，我們可以將 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)設(shè)置為非1的值就可以實現(xiàn)這個目的，因為程序里面并沒有限制這個值一定為2,。不過到了 Hadoop 2.7.0，mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值必須為1或2，具體參見 MAPREDUCE-4815。
怎么在 Spark 里面設(shè)置這個參數(shù)
問題已經(jīng)找到了，我們可以在程序里面解決這個問題。有以下幾種方法：
- 直接在
conf/spark-defaults.conf里面設(shè)置spark.hadoop.mapreduce.fileoutputcommitter.algorithm.version 2，這個是全局影響的。 - 直接在 Spark 程序里面設(shè)置，spark.conf.set("mapreduce.fileoutputcommitter.algorithm.version", "2")，這個是作業(yè)級別的。
- 如果你是使用 Dataset API 寫數(shù)據(jù)到 HDFS，那么你可以這么設(shè)置 dataset.write.option("mapreduce.fileoutputcommitter.algorithm.version", "2")。
不過如果你的 Hadoop 版本為 3.x，mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的默認(rèn)值已經(jīng)設(shè)置為2了，具體參見 MAPREDUCE-6336 和 MAPREDUCE-6406。
因為這個參數(shù)對性能有一些影響，所以到了 Spark 2.2.0，這個參數(shù)已經(jīng)記錄在 Spark 配置文檔里面了 configuration.html，具體參見 SPARK-20107。
總結(jié)
以上所述是小編給大家介紹的Apache Spark 2.0 在作業(yè)完成時卻花費很長時間結(jié)束，希望對大家有所幫助！
相關(guān)文章
CentOS 7 中firewall-cmd命令詳細(xì)介紹
這篇文章主要介紹了 CentOS 7 中firewall-cmd命令詳細(xì)介紹的相關(guān)資料,這里對CentOS 7的firewall-cmd命令一一介紹，希望能幫助開始使用的朋友，需要的朋友可以參考下2016-11-11
本文詳細(xì)介紹了如何在Ubuntu虛擬機中固定IP地址,包括檢查和編輯`/etc/apt/sources.list`文件、更新網(wǎng)絡(luò)配置文件以及使用NetworkManager或netplan進行配置,需要的朋友可以參考下2025-02-02
linux如何編譯安裝新內(nèi)核支持NTFS文件系統(tǒng)(以redhat7.2x64為例)
這篇文章主要介紹了linux如何編譯安裝新內(nèi)核支持NTFS文件系統(tǒng)(以redhat7.2x64為例)，具有一定的參考價值，感興趣的小伙伴們可以參考一下。2016-10-10
這篇文章主要介紹了Linux中用rename命令批量替換文件名的方法,文中詳細(xì)介紹了在Debian或者Ubuntu下批量替換文件名的語法和實例代碼，對大家具有一定的參考價值，需要的朋友可以們下面來一起看看吧。2017-04-04
在本篇文章里小編給大家整理了關(guān)于linux如何啟動nginx并重啟哦的小技巧，有需要的朋友們參考下。2019-06-06
foreman ubuntu16快速安裝，非常實用的方法，小編覺得很不錯，分享給大家，希望對大家有幫助2018-09-09
這篇文章主要介紹了Ubuntu18.04 下將磁盤掛載在某目錄下，本文圖文并茂給大家介紹的非常詳細(xì)，具有一定的參考借鑒價值,需要的朋友可以參考下2019-12-12
這篇文章主要介紹了Linux下connect超時處理（總結(jié)），小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-04-04
這篇文章主要介紹了linux之centos7防火墻基本使用詳解，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-02-02
linux: centos設(shè)置ip以及連接外網(wǎng)的方法
本篇文章主要介紹了linux: centos設(shè)置ip以及連接外網(wǎng)的方法，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-02-02