算法原理

固定窗口算法又稱計數(shù)器算法，是一種簡單的限流算法。在單位時間內(nèi)設(shè)定一個閾值和一個計數(shù)值，每收到一個請求則計數(shù)值加一，如果計數(shù)值超過閾值則觸發(fā)限流，如果達(dá)不到則請求正常處理，進(jìn)入下一個單位時間后，計數(shù)值清零，重新累計。

如上圖所示，時間單位是1秒，閾值是3。

• 第1秒3個請求，不會觸發(fā)限流；
• 第2秒1個請求，不會觸發(fā)限流；
• 第3秒4個請求，這一秒的前3個請求正常處理，第4個請求觸發(fā)限流，會被拒絕處理。
• 后續(xù)第4秒、第5秒不會觸發(fā)限流，所有請求正常處理。

算法實(shí)現(xiàn)

這里講兩種實(shí)現(xiàn)方法：進(jìn)程內(nèi)即內(nèi)存固定窗口算法、基于Redis的固定窗口算法。

進(jìn)程內(nèi)即內(nèi)存固定窗口算法

使用字典，Key是限流目標(biāo)，Value包括計數(shù)值和過期時間。處理請求時，首先從請求中提取限流目標(biāo)，然后根據(jù)限流目標(biāo)去字典中查找，如果不存在，則添加一個字典項，計數(shù)值是1，過期時間是當(dāng)前時間+限流單位時間；如果存在，則檢查是否過期，如果過期，則計數(shù)值歸1，過期時間是當(dāng)前時間+限流單位時間，如果未過期，則僅計數(shù)值加1。這里需要注意多線程問題，讀寫數(shù)據(jù)時需要加鎖。

在C#語言中可以使用MemoryCache，它的緩存項有一個過期時間，不需要自己回收過期的項目。

進(jìn)程內(nèi)計數(shù)的方法最適合單實(shí)例處理的程序限流，多實(shí)例處理的情況下可能每個實(shí)例收到的請求數(shù)不均勻，不能保證限流效果。

基于Redis的固定窗口算法

Redis作為KV存儲，類似于字典，而且也自帶過期時間。處理請求時，首先從請求中提取限流目標(biāo)，然后根據(jù)限流目標(biāo)去Redis中查找，如果不存在，則添加KV項，Value值是1，過期時間是當(dāng)前時間+限流單位時間；如果存在，則Value值加1。

這些操作邏輯可以封裝在一個Lua script中，因為Lua script在Redis中執(zhí)行時也是原子操作，所以Redis的限流計數(shù)在分布式處理時天然就是準(zhǔn)確的。

算法應(yīng)用

這里以限流組件 FireflySoft.RateLimit 為例，實(shí)現(xiàn)ASP.NET Core中的固定窗口限流。

1、安裝Nuget包

有多種安裝方式，選擇自己喜歡的就行了。

包管理器命令：

Install-Package FireflySoft.RateLimit.AspNetCore

或者.NET命令:

dotnet add package FireflySoft.RateLimit.AspNetCore

或者項目文件直接添加：

<ItemGroup>

<PackageReference Include="FireflySoft.RateLimit.AspNetCore" Version="2.*" />

</ItemGroup>

2、使用中間件

在Startup中使用中間件，演示代碼如下（下邊會有詳細(xì)說明）：

public void ConfigureServices(IServiceCollection services)
        {
           ...
           app.AddRateLimit(new InProcessFixedWindowAlgorithm(
                new[] {
                    new FixedWindowRule()
                    {
                        ExtractTarget = context =>
                        {
                        		// 提取限流目標(biāo)
                            return (context as HttpContext).Request.Path.Value;
                        },
                        CheckRuleMatching = context =>
                        {
                        		// 判斷當(dāng)前請求是否需要限流處理
                            return true;
                        },
                        Name="fixed window limit rule",
                        LimitNumber=30, // 限流閾值
                        StatWindow=TimeSpan.FromSeconds(1) // 限流單位時間
                    }
                })
            );
            ...
        }

public void Configure(IApplicationBuilder app, IWebHostEnvironment env)
        {
            ...
            app.UseRateLimit();
            ...
        }

如上需要先注冊服務(wù)，然后使用中間件。

注冊服務(wù)的時候需要提供限流算法和對應(yīng)的規(guī)則：

• 這里使用進(jìn)程內(nèi)固定窗口算法InProcessFixedWindowAlgorithm，還可以使用RedisFixedWindowAlgorithm，需要傳入一個Redis連接。
• 限流閾值是30，限流單位時間是1秒。
• ExtractTarget用于提取限流目標(biāo)，這里是每個不同的請求Path。如果有IO請求，這里還支持對應(yīng)的異步方法ExtractTargetAsync。
• CheckRuleMatching用于驗證當(dāng)前請求是否限流。如果有IO請求，這里還支持對應(yīng)的異步方法CheckRuleMatchingAsync。
• 默認(rèn)被限流時會返回HttpStatusCode 429，可以在AddRateLimit時使用可選參數(shù)error自定義這個值，以及Http Header和Body中的內(nèi)容。

基本的使用就是上邊例子中的這些了。

如果還是基于傳統(tǒng)的.NET Framework，則需要在Application_Start中注冊一個消息處理器RateLimitHandler，算法和規(guī)則部分都是共用的，具體可以看Github上的使用說明：https://github.com/bosima/FireflySoft.RateLimit#aspnet

FireflySoft.RateLimit 是一個基于 .NET Standard 的限流類庫，其內(nèi)核簡單輕巧，能夠靈活應(yīng)對各種需求的限流場景。

其主要特點(diǎn)包括：

• 多種限流算法：內(nèi)置固定窗口、滑動窗口、漏桶、令牌桶四種算法，還可自定義擴(kuò)展。
• 多種計數(shù)存儲：目前支持內(nèi)存、Redis兩種存儲方式。
• 分布式友好：通過Redis存儲支持分布式程序統(tǒng)一計數(shù)。
• 限流目標(biāo)靈活：可以從請求中提取各種數(shù)據(jù)用于設(shè)置限流目標(biāo)。
• 支持限流懲罰：可以在客戶端觸發(fā)限流后鎖定一段時間不允許其訪問。
• 動態(tài)更改規(guī)則：支持程序運(yùn)行時動態(tài)更改限流規(guī)則。
• 自定義錯誤：可以自定義觸發(fā)限流后的錯誤碼和錯誤消息。
• 普適性：原則上可以滿足任何需要限流的場景。

Github開源地址：https://github.com/bosima/FireflySoft.RateLimit

到此這篇關(guān)于ASP.NET Core使用固定窗口限流的文章就介紹到這了。希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評論