Golang實現(xiàn)按比例切分流量的示例詳解

更新時間：2023年09月04日 10:29:43 作者：阿拉懶神燈

我們在進行灰度發(fā)布時,往往需要轉發(fā)一部分流量到新上線的服務上,進行小規(guī)模的驗證,隨著功能的不斷完善,我們也會逐漸增加轉發(fā)的流量,這就需要按比例去切分流量,那么如何實現(xiàn)流量切分呢,接下來小編就給大家詳細的介紹一下實現(xiàn)方法,需要的朋友可以參考下

我們在進行灰度發(fā)布時，往往需要轉發(fā)一部分流量到新上線的服務上，進行小規(guī)模的驗證，隨著功能的不斷完善，我們也會逐漸增加轉發(fā)的流量，這就需要按比例去切分流量，那么如何實現(xiàn)流量切分呢？

我們很容易想到通過生成隨機數(shù)方式進行實現(xiàn)，通過判斷生成隨機數(shù)是否落在指定區(qū)間內，從而決定是否進行流量的轉發(fā)，這種方式雖然實現(xiàn)很簡單，但是它有兩點弊端：

每次都要生成新的隨機數(shù)，這是有性能損耗的，尤其是并發(fā)量高的場景下更為明顯；
隨機數(shù)的生成往往不夠均勻，比如有A、B兩個服務，流量比例3:7，如果使用隨機數(shù)方式，如果運氣不好的話有可能請求100次全落在B服務上。

那有沒有性能開銷又小，又能精準切分流量的方式呢？當然是有的。實現(xiàn)思路如下：

確定比例，并根據(jù)比例得到一個基數(shù)base，例如比例是3:7，那么基數(shù)就是10；
生成長度為基數(shù)base的數(shù)組source，并填充數(shù)據(jù)0、1、2、3、4、5...；
打亂數(shù)組source中元素順序；
創(chuàng)建全局計數(shù)器queryCount，每次有請求時加1（確保原子性）；
計算計數(shù)器queryCount與base取余后的值rate，并得到數(shù)組中對應位置的值source[rate]；
判斷source[rate]落在哪個區(qū)間。

看文字可能覺得理解起來有些別扭，這里貼上完整代碼：

import (  "fmt"  "math/rand"  "sync/atomic")
type TrafficControl struct {  
    source     []int  
    queryCount uint32  
    base       int  
    ratio      int
}
func NewTrafficControl(base int, ratio int) *TrafficControl {  
    source := make([]int, base)  
    for i := 0; i < base; i++ {    
        source[i] = i  
    }
    rand.Shuffle(base, func(i, j int) {    
        source[i], source[j] = source[j], source[i]  
    })
    return &TrafficControl{    
        source: source,    
        base:   base,    
        ratio:  ratio,  
    }
}
func (t *TrafficControl) Allow() bool {  
    rate := t.source[int(atomic.AddUint32(&t.queryCount, 1))%t.base]  
    if rate < t.ratio {    
        return true  
    } else {    
        return false  
    }
}

接下來我們檢測下這段代碼是否真的能精準切分流量：

func main() {  
    trafficCtl := NewTrafficControl(10, 6)  
    cnt := 100  
    serviceAQueryCnt := 0  
    serviceBQueryCnt := 0  
    for cnt > 0 {    
        if trafficCtl.Allow() {      
            serviceAQueryCnt++    
        } else {      
            serviceBQueryCnt++    
        }    
        cnt--  
    }
    fmt.Printf("service A query count: %v, service B query count %v", serviceAQueryCnt, serviceBQueryCnt)
}

執(zhí)行結果如下：