Go語言框架快速集成限流中間件詳解

更新時間：2022年09月07日 09:29:41 作者：Masters

這篇文章主要為大家介紹了Go語言框架快速集成限流中間件詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪

前言

在我們的日常開發(fā)中, 常用的中間件有很多, 今天來講一下怎么集成限流中間件, 它可以很好地用限制并發(fā)訪問數(shù)來保護系統(tǒng)服務, 避免系統(tǒng)服務崩潰, 資源占用過大甚至服務器崩潰進而影響到其他應用!

分布式版

簡介

通常我們的服務會同時存在多個進程, 也就是負載來保證服務的性能和穩(wěn)定性, 那么就需要走一個統(tǒng)一的限流, 這個時候就需要借助我們的老朋友-redis, 來進行分布式限流;

算法

漏桶算法

即一個水桶, 進水(接受請求)的速率不限, 出水(處理請求)的速率是一定的, 如果出水的速率小于進水的速率, 就會造成水桶溢出(也就是拒絕請求); 主要是從出口限制, 以固定的速率控制訪問速度, 缺點是難以應對突發(fā)請求;

實現(xiàn)

下面是一個簡單的實現(xiàn), 對 /v1/hello接口進行每分鐘2次的速率限制

// RateLimitConf 速率配置, 允許多長時間通過多少次.
type RateLimitConf struct {
	Limit int64
	Timer time.Duration
}
// exampleLimiterMap 接口請求速率配置, 建議放入redis/數(shù)據(jù)庫同步本地緩存.
var exampleLimiterMap = map[string]RateLimitConf{
	"/v1/hello": {Limit: 2, Timer: time.Minute},
}
// LimiterMiddle 分布式限流中間件.
func LimiterMiddle(ctx iris.Context) {
	var (
		uri    = ctx.Request().RequestURI
		client = redis.NewClusterClient()
		key    = uri
	)
	conf, ok := exampleLimiterMap[uri]
	if ok {
		limiter := redis_rate.NewLimiter(client)
		if _, _, b := limiter.Allow(key, conf.Limit, conf.Timer); !b {
			r, _ := httpcode.NewRequest(ctx, nil)
			r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
			return
		}
	}
	ctx.Next()
}

注意

接口速率配置如果需要進行實時配置, 則建議將配置寫入數(shù)據(jù)庫, 然后刷新到本地緩存/存到redis;
如果需要對設備/ip/用戶進行接口限制訪問, 則將 key加上唯一標志即可;

單機版

簡介

這個就只適用于單個服務進程的限流, 比如個人搭的一些小網(wǎng)站之類的;

算法

令牌桶算法

即也是一個桶, 按照設定的速率往桶里放令牌, 10s二十次即1s放兩個令牌(允許處理兩次請求), 然后請求來之后必須從桶里取出來令牌才可以進行處理, 沒有令牌則選擇拒絕或等待; 主要是從入口限制, 允許一定量的突發(fā)請求(即桶內(nèi)所有的令牌);

依賴庫

golang.org/x/time/rate

實現(xiàn)

下面是一個簡單的實現(xiàn), 對 /v1/hello接口進行每分鐘2次的速率限制

// exampleStandAloneLimiterMap 單機接口請求速率配置.
var exampleStandAloneLimiterMap = map[string]*rate.Limiter{
	"/v1/hello": rate.NewLimiter(rate.Every(time.Minute), 2),
}
// StandAloneLimiterMiddle 單機限流中間件.
func StandAloneLimiterMiddle(ctx iris.Context) {
	var (
		uri = ctx.Request().RequestURI
	)
	limiter, ok := exampleStandAloneLimiterMap[uri]
	if ok {
		if b := limiter.Allow(); !b {
			r, _ := httpcode.NewRequest(ctx, nil)
			r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
			return
		}
	}
	ctx.Next()
}