快捷導(dǎo)航

Hadoop之NameNode Federation圖文詳解

更新時(shí)間：2019年01月11日 08:43:02 作者：qq_43193797

今天小編就為大家分享一篇關(guān)于Hadoop之NameNode Federation圖文詳解，小編覺得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來看看吧

一. 前言

1.NameNode架構(gòu)的局限性

（1）Namespace（命名空間）的限制

由于NameNode在內(nèi)存中存儲(chǔ)所有的元數(shù)據(jù)（metadata），因此單個(gè)NameNode所能存儲(chǔ)的對(duì)象（文件+塊）數(shù)目受到NameNode所在JVM的heap size的限制。50G的heap能夠存儲(chǔ)20億（200million）個(gè)對(duì)象，這20億個(gè)對(duì)象支持4000個(gè)DataNode，12PB的存儲(chǔ)（假設(shè)文件平均大小為40MB）。隨著數(shù)據(jù)的飛速增長，存儲(chǔ)的需求也隨之增長。單個(gè)DataNode從4T增長到36T，集群的尺寸增長到8000個(gè)DataNode。存儲(chǔ)的需求從12PB增長到大于100PB。

（2）隔離問題

由于HDFS僅有一個(gè)NameNode，無法隔離各個(gè)程序，因此HDFS上的一個(gè)實(shí)驗(yàn)程序就很有可能影響整個(gè)HDFS上運(yùn)行的程序。

（3）性能的瓶頸

由于是單個(gè)NameNode的HDFS架構(gòu)，因此整個(gè)HDFS文件系統(tǒng)的吞吐量受限于單個(gè)NameNode的吞吐量。

2.HDFS Federation架構(gòu)設(shè)計(jì)，如圖所示

能不能有多個(gè)NameNode

HDFS Federation架構(gòu)設(shè)計(jì)

二.實(shí)現(xiàn)

NameNode HA是為了解決NameNode可用性的問題，而NameNode Federation則主要是為了解決NameNode擴(kuò)展性，隔離性，以及單個(gè)NameNode性能方面的問題。NameNode Federation架構(gòu)如下：

NameNode Federation使用了多個(gè)命名空間，這些命名空間互相獨(dú)立，自制（其實(shí)是對(duì)元數(shù)據(jù)的水平切分），而集群中所有DataNode向所有NameNode都進(jìn)行注冊(cè)，而一個(gè)塊池（block pool）有屬于同一個(gè)命名空間的數(shù)據(jù)塊組成，每個(gè)DataNode可能會(huì)存儲(chǔ)集群中所有塊池的數(shù)據(jù)塊，每個(gè)塊池互相獨(dú)立，有一個(gè)掛掉了也不會(huì)影響其他塊池正常工作。

同時(shí)部署了NameNode HA和NameNode Federation時(shí)，集群結(jié)構(gòu)會(huì)相對(duì)復(fù)雜一點(diǎn)，如下圖。在實(shí)際的生成環(huán)境中，NameNode HA幾乎是必備，而當(dāng)集群規(guī)模在1000臺(tái)以下時(shí)，幾乎是不需要NameNode Federation的。