Go?實現(xiàn)?Nginx?加權輪詢算法的方法步驟
最近在看一些 getway 相關的資料，發(fā)現(xiàn)有關 Nginx 負載均衡的算法有點多，但是有點亂，所以整理下。。。如有不對地方請指出。
一，Nginx 負載均衡的輪詢 （round-robin）
在說加權輪詢之前我們先來簡單的說一下輪詢
1. nginx 中的配置
upstream cluster {
server 192.168.0.14;
server 192.168.0.15;
}
location / {
proxy_set_header X-Real-IP $remote_addr; //返回真實IP
proxy_pass http://cluster; //代理指向cluster
}
2. 簡單介紹
輪詢 作為負載均衡中較為基礎的算法，他的實現(xiàn)不需要配置額外的參數(shù)。簡單理解：配置文件中一共配置了 N 臺服務器，輪詢 算法會遍歷服務的節(jié)點列表，并按照節(jié)點順序每輪選擇一臺服務器處理請求，當所有節(jié)點遍歷一遍后，重新開始
3. 特點
輪詢 算法中我們不難看出，每臺服務器處理請求的數(shù)量基本持平，按照請求時間逐一分配，因此只能適用于集群服務器性能相近的情況，平均分配讓每臺服務器承載量基本持平。但是如果集群服務器性能參差不齊，這樣的算法會導致資源分配不合理，造成部分請求阻塞，部分服務器資源浪費。為了解決上述問題，我們將 輪詢 算法升級了，引入了 加權輪詢 算法，讓集群中性能差異較大的服務器也能合理分配資源。達到資源盡量最大化合理利用
4. 實現(xiàn) （這里使用golang模擬實現(xiàn)）
type RoundRobinBalance struct {
curIndex int
rss []string
}
/**
* @Author: yang
* @Description：添加服務
* @Date: 2021/4/7 15:36
*/
func (r *RoundRobinBalance) Add (params ...string) error{
if len(params) == 0 {
return errors.New("params len 1 at least")
}
addr := params[0]
r.rss = append(r.rss, addr)
return nil
}
/**
* @Author: yang
* @Description：輪詢獲取服務
* @Date: 2021/4/7 15:36
*/
func (r *RoundRobinBalance) Next () string {
if len(r.rss) == 0 {
return ""
}
lens := len(r.rss)
if r.curIndex >= lens {
r.curIndex = 0
}
curAdd := r.rss[r.curIndex ]
r.curIndex = (r.curIndex + 1) % lens
return curAdd
}
5. 測試
簡單調用下方法看看結果
/**
* @Author: yang
* @Description：測試
* @Date: 2021/4/7 15:36
*/
func main(){
rb := new(RoundRobinBalance)
rb.Add("127.0.0.1:80")
rb.Add("127.0.0.1:81")
rb.Add("127.0.0.1:82")
rb.Add("127.0.0.1:83")
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
}
go run main.go
127.0.0.1:80
127.0.0.1:81
127.0.0.1:82
127.0.0.1:83
127.0.0.1:80
127.0.0.1:81
二，Nginx 負載均衡的加權輪詢 （weighted-round-robin）
進入主題
1. nginx 配置
http {
upstream cluster {
server 192.168.1.2 weight=5;
server 192.168.1.3 weight=3;
server 192.168.1.4 weight=1;
}
location / {
proxy_set_header X-Real-IP $remote_addr; //返回真實IP
proxy_pass http://cluster; //代理指向cluster
}
2. 加權算法簡介-特點
不同的服務器的配置，部署的應用數(shù)量，網(wǎng)絡狀況等都會導致服務器處理能力會不一樣，所以簡單的 輪詢 算法將不再適用，而引入 了加權輪詢 算法：根據(jù)服務器不同的處理能力，給每個服務器分配不同的權值，根據(jù)不同的權值將不同的服務器分配到對應的服務器上；
請求數(shù)量較大時，每個服務處理請求的數(shù)量之比會趨向于權重之比。
3. 算法說明
在 Nginx加權輪詢算法 中，每個節(jié)點都有3個權重的變量
- Weight : 配置的權重，根據(jù)配置文件初始化每個服務器節(jié)點的權重
- currentWeight : 節(jié)點的當前權重，初始化時是配置的權重，隨后會一直變更
- effectiveWeight : 有效的權重，初始值為 weight ，通訊過程中發(fā)現(xiàn)節(jié)點異常，則 -1 ，之后再次選擇本節(jié)點，調用成功一次則 +1 ，直到恢復到 weight。這個參數(shù)可以用于做降權?；蛘哒f是你的設置的權限修正。。
Nginx加權輪詢算法 的邏輯實現(xiàn)
- 輪詢所有節(jié)點，計算當前狀態(tài)下所有的節(jié)點的 effectiveWeight 之和 作為 totalWeight；
- 更新每個節(jié)點的 currentWeight ， currentWeight = currentWeight + effectiveWeight; 選出所有節(jié)點 currentWeight 中最大的一個節(jié)點作為選中節(jié)點；
- 選擇中的節(jié)點再次更新 currentWeight, currentWeight = currentWeight - totalWeight；
4. 簡單舉例
注意：實現(xiàn)中不考慮健康檢查，即所有的節(jié)點都是100%可用的，所以 effectiveWeight 等于 weight
假設：現(xiàn)在有3個節(jié)點 {A, B, C} 分別權重為：{4, 2, 1}；請求7次
| 第N次請求 | 請求前?currentWeight | 選中的節(jié)點 | 請求后?currentWeight |
|---|---|---|---|
| 1 | [serverA=4, serverB=2, serverC=1] | serverA | [serverA=1, serverB=4, serverC=2] |
| 2 | [serverA=1, serverB=4, serverC=2] | serverB | [serverA=5, serverB=-1, serverC=3] |
| 3 | [serverA=5, serverB=-1, serverC=3] | serverA | [serverA=2, serverB=1, serverC=4] |
| 4 | [serverA=2, serverB=1, serverC=4] | serverA | [serverA=-1, serverB=3, serverC=5] |
| 5 | [serverA=-1, serverB=3, serverC=5] | serverC | [serverA=3, serverB=5, serverC=-1] |
| 6 | [serverA=3, serverB=5, serverC=-1] | serverA | [serverA=0, serverB=7, serverC=0] |
| 7 | [serverA=0, serverB=7, serverC=0] | serverB | [serverA=4, serverB=2, serverC=1] |
totaoWeight = 4 + 2 + 1 = 7
第一次請求： serverA = 4 + 4 = 8 ， serverB = 2 + 2 = 4， serverC = 1 + 1 = 2； 最大的是 serverA ； 所以選擇 serverA ；然后serverA = 8 - 7 = 1；最后得出：serverA=1, serverB=4, serverC=2
第二次請求： serverA = 1 + 4 = 5； serverB = 4 + 2 = 6 ； serverC = 2 + 1 = 3；最大的是 serverB ； 所以選擇 serverB ； 然后 serverB = 6 - 7 = -1 ；最后得出： serverA=5, serverB=-1, serverC=3
以此類推。。。
5. 代碼實現(xiàn)
以golang實現(xiàn)下上面的邏輯：
type WeightRoundRobinBalance struct {
curIndex int
rss []*WeightNode
}
type WeightNode struct {
weight int // 配置的權重，即在配置文件或初始化時約定好的每個節(jié)點的權重
currentWeight int //節(jié)點當前權重，會一直變化
effectiveWeight int //有效權重，初始值為weight, 通訊過程中發(fā)現(xiàn)節(jié)點異常，則-1 ，之后再次選取本節(jié)點，調用成功一次則+1，直達恢復到weight 。 用于健康檢查，處理異常節(jié)點，降低其權重。
addr string // 服務器addr
}
/**
* @Author: yang
* @Description：添加服務
* @Date: 2021/4/7 15:36
*/
func (r *WeightRoundRobinBalance) Add (params ...string) error{
if len(params) != 2{
return errors.New("params len need 2")
}
// @Todo 獲取值
addr := params[0]
parInt, err := strconv.ParseInt(params[1], 10, 64)
if err != nil {
return err
}
node := &WeightNode{
weight: int(parInt),
effectiveWeight: int(parInt), // 初始化時有效權重 = 配置權重值
currentWeight: int(parInt), // 初始化時當前權重 = 配置權重值
addr: addr,
}
r.rss = append(r.rss, node)
return nil
}
/**
* @Author: yang
* @Description：輪詢獲取服務
* @Date: 2021/4/7 15:36
*/
func (r *WeightRoundRobinBalance) Next () string {
// @Todo 沒有服務
if len(r.rss) == 0 {
return ""
}
totalWeight := 0
var maxWeightNode *WeightNode
for key , node := range r.rss {
// @Todo 計算當前狀態(tài)下所有節(jié)點的effectiveWeight之和totalWeight
totalWeight += node.effectiveWeight
// @Todo 計算currentWeight
node.currentWeight += node.effectiveWeight
// @Todo 尋找權重最大的
if maxWeightNode == nil || maxWeightNode.currentWeight < node.currentWeight {
maxWeightNode = node
r.curIndex = key
}
}
// @Todo 更新選中節(jié)點的currentWeight
maxWeightNode.currentWeight -= totalWeight
// @Todo 返回addr
return maxWeightNode.addr
}
6. 測試驗證
/**
* @Author: yang
* @Description：測試
* @Date: 2021/4/7 15:36
*/
func main(){
rb := new(WeightRoundRobinBalance)
rb.Add("127.0.0.1:80", "4")
rb.Add("127.0.0.1:81", "2")
rb.Add("127.0.0.1:82", "1")
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
fmt.Println(rb.Next())
}
執(zhí)行下看下結果：
run main.go
127.0.0.1:80
127.0.0.1:81
127.0.0.1:80
127.0.0.1:80
127.0.0.1:82
127.0.0.1:80
127.0.0.1:81
到此這篇關于Go 實現(xiàn) Nginx 加權輪詢算法的方法步驟的文章就介紹到這了,更多相關Go 實現(xiàn)Nginx加權輪詢內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
Go 并發(fā)編程Goroutine的實現(xiàn)示例
Go語言中的并發(fā)編程主要通過Goroutine和Channel來實現(xiàn),本文就來介紹一下Go 并發(fā)編程的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2024-12-12
教你利用Golang可選參數(shù)實現(xiàn)可選模式
本文討論Golang函數(shù)可選參數(shù)及函數(shù)類型，以及如何利用可選函數(shù)類型實現(xiàn)可選模式。同時通過構造函數(shù)作為示例，實現(xiàn)強大帶可選參數(shù)的構造函數(shù)，讓代碼更直觀、靈活、支持擴展2023-01-01
這篇文章主要為大家詳細介紹了如何使用Go語言實現(xiàn)發(fā)送微信群消息,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下2024-01-01
這篇文章主要為大家詳細講解一下Go語言中調整項目目錄結構、增加配置文件使用和增加日志配置的方法，文中示例代碼講解詳細，需要的可以參考一下2022-06-06
這篇文章主要介紹了Go語言中的匿名結構體用法,實例分析了匿名結構體的使用技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-02-02
這篇文章主要為大家介紹了go新工具gonew生成模板工具鏈使用詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-08-08
Golang實現(xiàn)異步上傳文件支持進度條查詢的方法
這篇文章主要介紹了Golang實現(xiàn)異步上傳文件支持進度條查詢的方法，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2019-10-10
這篇文章主要介紹了淺談go 協(xié)程的使用陷阱，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12
vscode插件設置之Golang開發(fā)環(huán)境配置全過程
go語言開發(fā)選擇vscode作為IDE工具也是一個不錯的選擇,下面這篇文章主要給大家介紹了關于vscode插件設置之Golang開發(fā)環(huán)境配置的相關資料,文中通過圖文介紹的非常詳細,需要的朋友可以參考下2022-12-12
在golang中字符串的拼接方式有多種,本文將會介紹比較常用的幾種方式,并且對各種方式進行壓測,具有一定的參考價值,感興趣的可以了解一下2024-01-01