mongodb3.4集群搭建實(shí)戰(zhàn)之高可用的分片+副本集
前言
最近因?yàn)楣ぷ鞯脑?，在學(xué)習(xí)使用mongodb數(shù)據(jù)庫，mongodb是最常用的nodql數(shù)據(jù)庫，在數(shù)據(jù)庫排名中已經(jīng)上升到了前六。這篇文章介紹如何搭建高可用的mongodb（分片+副本）集群，分享出來供大家參考學(xué)習(xí)，下面話不多說了，來一起看看詳細(xì)的介紹：
在搭建集群之前，需要首先了解幾個(gè)概念：路由，分片、副本集、配置服務(wù)器等。
相關(guān)概念
先來看一張圖：
從圖中可以看到有四個(gè)組件：mongos、config server、shard、replica set。
mongos，數(shù)據(jù)庫集群請(qǐng)求的入口，所有的請(qǐng)求都通過mongos進(jìn)行協(xié)調(diào)，不需要在應(yīng)用程序添加一個(gè)路由選擇器，mongos自己就是一個(gè)請(qǐng)求分發(fā)中心，它負(fù)責(zé)把對(duì)應(yīng)的數(shù)據(jù)請(qǐng)求請(qǐng)求轉(zhuǎn)發(fā)到對(duì)應(yīng)的shard服務(wù)器上。在生產(chǎn)環(huán)境通常有多mongos作為請(qǐng)求的入口，防止其中一個(gè)掛掉所有的mongodb請(qǐng)求都沒有辦法操作。
config server，顧名思義為配置服務(wù)器，存儲(chǔ)所有數(shù)據(jù)庫元信息（路由、分片）的配置。mongos本身沒有物理存儲(chǔ)分片服務(wù)器和數(shù)據(jù)路由信息，只是緩存在內(nèi)存里，配置服務(wù)器則實(shí)際存儲(chǔ)這些數(shù)據(jù)。mongos第一次啟動(dòng)或者關(guān)掉重啟就會(huì)從 config server 加載配置信息，以后如果配置服務(wù)器信息變化會(huì)通知到所有的 mongos 更新自己的狀態(tài)，這樣 mongos 就能繼續(xù)準(zhǔn)確路由。在生產(chǎn)環(huán)境通常有多個(gè) config server 配置服務(wù)器，因?yàn)樗鎯?chǔ)了分片路由的元數(shù)據(jù)，防止數(shù)據(jù)丟失！
shard，分片（sharding）是指將數(shù)據(jù)庫拆分，將其分散在不同的機(jī)器上的過程。將數(shù)據(jù)分散到不同的機(jī)器上，不需要功能強(qiáng)大的服務(wù)器就可以存儲(chǔ)更多的數(shù)據(jù)和處理更大的負(fù)載?；舅枷刖褪菍⒓锨谐尚K，這些塊分散到若干片里，每個(gè)片只負(fù)責(zé)總數(shù)據(jù)的一部分，最后通過一個(gè)均衡器來對(duì)各個(gè)分片進(jìn)行均衡（數(shù)據(jù)遷移）。
replica set，中文翻譯副本集，其實(shí)就是shard的備份，防止shard掛掉之后數(shù)據(jù)丟失。復(fù)制提供了數(shù)據(jù)的冗余備份，并在多個(gè)服務(wù)器上存儲(chǔ)數(shù)據(jù)副本，提高了數(shù)據(jù)的可用性， 并可以保證數(shù)據(jù)的安全性。
仲裁者（Arbiter），是復(fù)制集中的一個(gè)MongoDB實(shí)例，它并不保存數(shù)據(jù)。仲裁節(jié)點(diǎn)使用最小的資源并且不要求硬件設(shè)備，不能將Arbiter部署在同一個(gè)數(shù)據(jù)集節(jié)點(diǎn)中，可以部署在其他應(yīng)用服務(wù)器或者監(jiān)視服務(wù)器中，也可部署在單獨(dú)的虛擬機(jī)中。為了確保復(fù)制集中有奇數(shù)的投票成員（包括primary），需要添加仲裁節(jié)點(diǎn)做為投票，否則primary不能運(yùn)行時(shí)不會(huì)自動(dòng)切換primary。
簡單了解之后，我們可以這樣總結(jié)一下，應(yīng)用請(qǐng)求mongos來操作mongodb的增刪改查，配置服務(wù)器存儲(chǔ)數(shù)據(jù)庫元信息，并且和mongos做同步，數(shù)據(jù)最終存入在shard（分片）上，為了防止數(shù)據(jù)丟失同步在副本集中存儲(chǔ)了一份，仲裁在數(shù)據(jù)存儲(chǔ)到分片的時(shí)候決定存儲(chǔ)到哪個(gè)節(jié)點(diǎn)。
環(huán)境準(zhǔn)備
- 系統(tǒng)系統(tǒng) centos6.5
- 三臺(tái)服務(wù)器：192.168.0.75/84/86
- 安裝包： mongodb-linux-x86_64-3.4.6.tgz
服務(wù)器規(guī)劃
| 服務(wù)器75 | 服務(wù)器84 | 服務(wù)器86 |
|---|---|---|
| mongos | mongos | mongos |
| config server | config server | config server |
| shard server1 主節(jié)點(diǎn) | shard server1 副節(jié)點(diǎn) | shard server1 仲裁 |
| shard server2 仲裁 | shard server2 主節(jié)點(diǎn) | shard server2 副節(jié)點(diǎn) |
| shard server3 副節(jié)點(diǎn) | shard server3 仲裁 | shard server3 主節(jié)點(diǎn) |
端口分配：
mongos：20000 config：21000 shard1：27001 shard2：27002 shard3：27003
集群搭建
1、安裝mongodb
#解壓 tar -xzvf mongodb-linux-x86_64-3.4.6.tgz -C /usr/local/ #改名 mv mongodb-linux-x86_64-3.4.6 mongodb
分別在每臺(tái)機(jī)器建立conf、mongos、config、shard1、shard2、shard3六個(gè)目錄，因?yàn)閙ongos不存儲(chǔ)數(shù)據(jù)，只需要建立日志文件目錄即可。
mkdir -p /usr/local/mongodb/conf mkdir -p /usr/local/mongodb/mongos/log mkdir -p /usr/local/mongodb/config/data mkdir -p /usr/local/mongodb/config/log mkdir -p /usr/local/mongodb/shard1/data mkdir -p /usr/local/mongodb/shard1/log mkdir -p /usr/local/mongodb/shard2/data mkdir -p /usr/local/mongodb/shard2/log mkdir -p /usr/local/mongodb/shard3/data mkdir -p /usr/local/mongodb/shard3/log
配置環(huán)境變量
vim /etc/profile # 內(nèi)容 export MONGODB_HOME=/usr/local/mongodb export PATH=$MONGODB_HOME/bin:$PATH # 使立即生效 source /etc/profile
2、config server配置服務(wù)器
mongodb3.4以后要求配置服務(wù)器也創(chuàng)建副本集，不然集群搭建不成功。
添加配置文件
vi /usr/local/mongodb/conf/config.conf ## 配置文件內(nèi)容 pidfilepath = /usr/local/mongodb/config/log/configsrv.pid dbpath = /usr/local/mongodb/config/data logpath = /usr/local/mongodb/config/log/congigsrv.log logappend = true bind_ip = 0.0.0.0 port = 21000 fork = true #declare this is a config db of a cluster; configsvr = true #副本集名稱 replSet=configs #設(shè)置最大連接數(shù) maxConns=20000
啟動(dòng)三臺(tái)服務(wù)器的config server
mongod -f /usr/local/mongodb/conf/config.conf
登錄任意一臺(tái)配置服務(wù)器，初始化配置副本集
#連接
mongo --port 21000
#config變量
config = {
... _id : "configs",
... members : [
... {_id : 0, host : "192.168.0.75:21000" },
... {_id : 1, host : "192.168.0.84:21000" },
... {_id : 2, host : "192.168.0.86:21000" }
... ]
... }
#初始化副本集
rs.initiate(config)
其中，”_id” : “configs”應(yīng)與配置文件中配置的 replicaction.replSetName 一致，”members” 中的 “host” 為三個(gè)節(jié)點(diǎn)的 ip 和 port
3、配置分片副本集(三臺(tái)機(jī)器)
設(shè)置第一個(gè)分片副本集
配置文件
vi /usr/local/mongodb/conf/shard1.conf #配置文件內(nèi)容 #——————————————– pidfilepath = /usr/local/mongodb/shard1/log/shard1.pid dbpath = /usr/local/mongodb/shard1/data logpath = /usr/local/mongodb/shard1/log/shard1.log logappend = true bind_ip = 0.0.0.0 port = 27001 fork = true #打開web監(jiān)控 httpinterface=true rest=true #副本集名稱 replSet=shard1 #declare this is a shard db of a cluster; shardsvr = true #設(shè)置最大連接數(shù) maxConns=20000
啟動(dòng)三臺(tái)服務(wù)器的shard1 server
mongod -f /usr/local/mongodb/conf/shard1.conf
登陸任意一臺(tái)服務(wù)器，初始化副本集
mongo --port 27001
#使用admin數(shù)據(jù)庫
use admin
#定義副本集配置，第三個(gè)節(jié)點(diǎn)的 "arbiterOnly":true 代表其為仲裁節(jié)點(diǎn)。
config = {
... _id : "shard1",
... members : [
... {_id : 0, host : "192.168.0.75:27001" },
... {_id : 1, host : "192.168.0.84:27001" },
... {_id : 2, host : "192.168.0.86:27001” , arbiterOnly: true }
... ]
... }
#初始化副本集配置
rs.initiate(config);
設(shè)置第二個(gè)分片副本集
配置文件
vi /usr/local/mongodb/conf/shard2.conf #配置文件內(nèi)容 #——————————————– pidfilepath = /usr/local/mongodb/shard2/log/shard2.pid dbpath = /usr/local/mongodb/shard2/data logpath = /usr/local/mongodb/shard2/log/shard2.log logappend = true bind_ip = 0.0.0.0 port = 27002 fork = true #打開web監(jiān)控 httpinterface=true rest=true #副本集名稱 replSet=shard2 #declare this is a shard db of a cluster; shardsvr = true #設(shè)置最大連接數(shù) maxConns=20000
啟動(dòng)三臺(tái)服務(wù)器的shard2 server
mongod -f /usr/local/mongodb/conf/shard2.conf
登陸任意一臺(tái)服務(wù)器，初始化副本集
mongo --port 27002
#使用admin數(shù)據(jù)庫
use admin
#定義副本集配置
config = {
... _id : "shard2",
... members : [
... {_id : 0, host : "192.168.0.75:27002" , arbiterOnly: true },
... {_id : 1, host : "192.168.0.84:27002" },
... {_id : 2, host : "192.168.0.86:27002" }
... ]
... }
#初始化副本集配置
rs.initiate(config);
設(shè)置第三個(gè)分片副本集
配置文件
vi /usr/local/mongodb/conf/shard3.conf #配置文件內(nèi)容 #——————————————– pidfilepath = /usr/local/mongodb/shard3/log/shard3.pid dbpath = /usr/local/mongodb/shard3/data logpath = /usr/local/mongodb/shard3/log/shard3.log logappend = true bind_ip = 0.0.0.0 port = 27003 fork = true #打開web監(jiān)控 httpinterface=true rest=true #副本集名稱 replSet=shard3 #declare this is a shard db of a cluster; shardsvr = true #設(shè)置最大連接數(shù) maxConns=20000
啟動(dòng)三臺(tái)服務(wù)器的shard3 server
mongod -f /usr/local/mongodb/conf/shard3.conf
登陸任意一臺(tái)服務(wù)器，初始化副本集
mongo --port 27003
#使用admin數(shù)據(jù)庫
use admin
#定義副本集配置
config = {
... _id : "shard3",
... members : [
... {_id : 0, host : "192.168.0.75:27003" },
... {_id : 1, host : "192.168.0.84:27003" , arbiterOnly: true},
... {_id : 2, host : "192.168.0.86:27003" }
... ]
... }
#初始化副本集配置
rs.initiate(config);
4、配置路由服務(wù)器 mongos
先啟動(dòng)配置服務(wù)器和分片服務(wù)器,后啟動(dòng)路由實(shí)例啟動(dòng)路由實(shí)例:（三臺(tái)機(jī)器）
vi /usr/local/mongodb/conf/mongos.conf #內(nèi)容 pidfilepath = /usr/local/mongodb/mongos/log/mongos.pid logpath = /usr/local/mongodb/mongos/log/mongos.log logappend = true bind_ip = 0.0.0.0 port = 20000 fork = true #監(jiān)聽的配置服務(wù)器,只能有1個(gè)或者3個(gè) configs為配置服務(wù)器的副本集名字 configdb = configs/192.168.0.75:21000,192.168.0.84:21000,192.168.0.86:21000 #設(shè)置最大連接數(shù) maxConns=20000
啟動(dòng)三臺(tái)服務(wù)器的mongos server
mongod -f /usr/local/mongodb/conf/mongos.conf
5、啟用分片
目前搭建了mongodb配置服務(wù)器、路由服務(wù)器，各個(gè)分片服務(wù)器，不過應(yīng)用程序連接到mongos路由服務(wù)器并不能使用分片機(jī)制，還需要在程序里設(shè)置分片配置，讓分片生效。
登陸任意一臺(tái)mongos
mongo --port 20000
#使用admin數(shù)據(jù)庫
user admin
#串聯(lián)路由服務(wù)器與分配副本集
sh.addShard("shard1/192.168.0.75:27001,192.168.0.84:27001,192.168.0.86:27001")
sh.addShard("shard2/192.168.0.75:27002,192.168.0.84:27002,192.168.0.86:27002")
sh.addShard("shard3/192.168.0.75:27003,192.168.0.84:27003,192.168.0.86:27003")
#查看集群狀態(tài)
sh.status()
6、測試
目前配置服務(wù)、路由服務(wù)、分片服務(wù)、副本集服務(wù)都已經(jīng)串聯(lián)起來了，但我們的目的是希望插入數(shù)據(jù)，數(shù)據(jù)能夠自動(dòng)分片。連接在mongos上，準(zhǔn)備讓指定的數(shù)據(jù)庫、指定的集合分片生效。
#指定testdb分片生效
db.runCommand( { enablesharding :"testdb"});
#指定數(shù)據(jù)庫里需要分片的集合和片鍵
db.runCommand( { shardcollection : "testdb.table1",key : {id: 1} } )
我們?cè)O(shè)置testdb的 table1 表需要分片，根據(jù) id 自動(dòng)分片到 shard1 ，shard2，shard3 上面去。要這樣設(shè)置是因?yàn)椴皇撬衜ongodb 的數(shù)據(jù)庫和表 都需要分片！
測試分片配置結(jié)果
mongo 127.0.0.1:20000
#使用testdb
use testdb;
#插入測試數(shù)據(jù)
for (var i = 1; i <= 100000; i++)
db.table1.save({id:i,"test1":"testval1"});
#查看分片情況如下，部分無關(guān)信息省掉了
db.table1.stats();
{
"sharded" : true,
"ns" : "testdb.table1",
"count" : 100000,
"numExtents" : 13,
"size" : 5600000,
"storageSize" : 22372352,
"totalIndexSize" : 6213760,
"indexSizes" : {
"_id_" : 3335808,
"id_1" : 2877952
},
"avgObjSize" : 56,
"nindexes" : 2,
"nchunks" : 3,
"shards" : {
"shard1" : {
"ns" : "testdb.table1",
"count" : 42183,
"size" : 0,
...
"ok" : 1
},
"shard2" : {
"ns" : "testdb.table1",
"count" : 38937,
"size" : 2180472,
...
"ok" : 1
},
"shard3" : {
"ns" : "testdb.table1",
"count" :18880,
"size" : 3419528,
...
"ok" : 1
}
},
"ok" : 1
}
可以看到數(shù)據(jù)分到3個(gè)分片，各自分片數(shù)量為： shard1 “count” : 42183，shard2 “count” : 38937，shard3 “count” : 18880。已經(jīng)成功了！
后期運(yùn)維
啟動(dòng)關(guān)閉
mongodb的啟動(dòng)順序是，先啟動(dòng)配置服務(wù)器，在啟動(dòng)分片，最后啟動(dòng)mongos.
mongod -f /usr/local/mongodb/conf/config.conf mongod -f /usr/local/mongodb/conf/shard1.conf mongod -f /usr/local/mongodb/conf/shard2.conf mongod -f /usr/local/mongodb/conf/shard3.conf mongod -f /usr/local/mongodb/conf/mongos.conf
關(guān)閉時(shí)，直接killall殺掉所有進(jìn)程
killall mongod killall mongos
總結(jié)
以上就是這篇文章的全部內(nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來一定的幫助，如果有疑問大家可以留言交流，謝謝大家對(duì)腳本之家的支持。
參考：
相關(guān)文章
MongoDB Server默認(rèn)不進(jìn)行安全認(rèn)證，即任何MongoDB Client都可以連接并擁有操作權(quán)限，這篇文章主要介紹了MongoDB?Server?用戶名和密碼登錄的步驟,需要的朋友可以參考下2024-03-03
MongoDB的啟動(dòng)方法詳細(xì)總結(jié)
MongoDB是一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫,下面這篇文章主要給大家介紹了關(guān)于MongoDB啟動(dòng)方法的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下2023-03-03
mongodb 數(shù)據(jù)類型(null/字符串/數(shù)字/日期/內(nèi)嵌文檔/數(shù)組等)
MongoDB的文檔類似于JSON，JSON只是一種簡單的表示數(shù)據(jù)的方式，只包含了6種數(shù)據(jù)類型（null、布爾、數(shù)字、字符串、數(shù)組及對(duì)象）,需要的朋友可以參考下2017-04-04
MongoDB中單對(duì)象大小超16M的存儲(chǔ)方案
在 MongoDB 中,單個(gè)文檔的大小限制為 16MB,如果某個(gè)對(duì)象（文檔）的大小超過 16MB該怎么辦,所以本文給大家介紹了MongoDB中單對(duì)象大小超16M的存儲(chǔ)方案,需要的朋友可以參考下2025-01-01
MongoDB4.28開啟權(quán)限認(rèn)證配置用戶密碼登錄功能
這篇文章主要介紹了MongoDB4.28開啟權(quán)限認(rèn)證配置用戶名和密碼認(rèn)證登錄,本文分步驟給大家介紹開啟認(rèn)證登錄的方法，需要的朋友可以參考下2022-01-01
Mongodb設(shè)置TTL索引自動(dòng)清除數(shù)據(jù)與過期數(shù)據(jù)的方法
今天小編就為大家分享一篇關(guān)于Mongodb設(shè)置TTL索引自動(dòng)清除數(shù)據(jù)與過期數(shù)據(jù)的方法，小編覺得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來看看吧2019-03-03
ubuntu安裝mongodb創(chuàng)建賬號(hào)和庫及添加坐標(biāo)索引的流程分析
這篇文章主要介紹了ubuntu安裝mongodb創(chuàng)建賬號(hào)和庫及添加坐標(biāo)索引的流程分析,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-10-10
MongoDB中游標(biāo)的深入學(xué)習(xí)
MongoDB中find()函數(shù)返回一個(gè)游標(biāo)，客戶端通過對(duì)游標(biāo)進(jìn)行一些設(shè)置就能對(duì)查詢結(jié)果進(jìn)行有效地控制，如可以限制查詢得到的結(jié)果數(shù)量、跳過部分結(jié)果、或?qū)Y(jié)果集按任意鍵進(jìn)行排序等！這篇文章主要介紹了MongoDB中的游標(biāo)，有需要的朋友們可以參考借鑒，下面來一起看看吧。2016-12-12
MongoDB數(shù)據(jù)庫兩階段提交實(shí)現(xiàn)事務(wù)的方法詳解
這篇文章主要介紹了MongoDB數(shù)據(jù)庫兩階段提交實(shí)現(xiàn)事務(wù)的方法,結(jié)合實(shí)例形式詳細(xì)分析了MongoDB數(shù)據(jù)庫事務(wù)提交、回滾、撤銷等操作的原理、實(shí)現(xiàn)方法及相關(guān)操作注意事項(xiàng),需要的朋友可以參考下2018-08-08
mongodb數(shù)據(jù)庫基礎(chǔ)知識(shí)之連表查詢
這篇文章主要給大家介紹了關(guān)于mongodb數(shù)據(jù)庫基礎(chǔ)知識(shí)之連表查詢的相關(guān)資料，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家學(xué)習(xí)或者使用mongodb具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-06-06