Go每日一库之162：throttled（轻量级限流工具）

luckzack

发布于 2023-10-02 08:21:30

1810

发布于 2023-10-02 08:21:30

throttled 是一个非常轻量且易扩展的限流组件，我们可以将它轻松地集成到应用程序中，以实现限流和配额管理的能力。

简介

throttled(https://github.com/throttled/throttled) 基于通用信元速率算法实现了对资源的访问速率限制，资源可以是特定的 URL、用户或者任何自定义的形式，可以很方便地与各种 http 和 rpc 框架进行集成。throttled 定义了限流元信息的存储抽象，并内置了 memstore，redis store 等元信息存储实现，我们可以根据具体的使用场景实现单机限流和集群限流。

使用举例

下面我们来基于 throttled 自带的 http 限流组件实现一个简单的 demo 试试看：

package main

import (
    "fmt"
    "log"
    "net/http"

"github.com/throttled/throttled/v2"
    "github.com/throttled/throttled/v2/store/memstore"
)

func main() {
    // 在 store 中添加 key 的数量限制
    store, err := memstore.New(65536)
    if err != nil {
        log.Fatal(err)
    }

// 配置限流规则
    quota := throttled.RateQuota{
        MaxRate:  throttled.PerMin(20),
        MaxBurst: 5,
    }
    rateLimiter, err := throttled.NewGCRARateLimiter(store, quota)
    if err != nil {
        log.Fatal(err)
    }

httpRateLimiter := throttled.HTTPRateLimiter{
        RateLimiter: rateLimiter,
        // 根据 path 进行限流
        VaryBy: &throttled.VaryBy{Path: true},
    }

handler := http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
        fmt.Fprintf(w, "hello, world\n")
    })
    http.ListenAndServe(":8080", httpRateLimiter.RateLimit(handler))
}

以上我们实现了一个按请求 path 进行限流的 http 服务，允许同一个 path 每分钟 20 次请求，并支持短时间内最多 5 个请求的 burst。

此外，我们也可以通过指定 VaryBy 和 DeniedHandler 的方式对资源定义和超限处理进行一些更多的定制。