设计高并发安全的分布式限流器

题目

设计高并发安全的分布式限流器

信息

• 类型：问答
• 难度：⭐⭐⭐

考点

并发控制,分布式协调,限流算法,错误处理,性能优化

快速回答

实现高并发安全的分布式限流器需考虑：

• 使用Redis+Lua脚本保证原子操作
• 采用令牌桶或漏桶算法实现平滑限流
• 处理时钟漂移和分布式一致性
• 设计合理的API和错误返回机制
• 优化网络开销和性能瓶颈

原理说明

分布式限流器需要解决的核心问题是在分布式环境下精确控制请求速率。令牌桶算法是常用方案，其原理：

1. 以固定速率向桶中添加令牌
2. 每个请求需要获取令牌才能执行
3. 桶满时新令牌被丢弃
4. 无令牌时请求被限流

分布式实现难点：

• 原子操作：使用Redis的Lua脚本保证检查+更新操作的原子性
• 时钟同步：采用相对时间而非绝对时间避免时钟漂移问题
• 性能优化：减少网络往返，批量处理请求

代码示例

// 分布式令牌桶限流器实现
type DistributedLimiter struct {
    client *redis.Client
    script *redis.Script // Lua脚本
}

func NewDistributedLimiter(redisAddr string) *DistributedLimiter {
    client := redis.NewClient(&redis.Options{Addr: redisAddr})
    script := redis.NewScript(`local key = KEYS[1]
        local capacity = tonumber(ARGV[1])
        local rate = tonumber(ARGV[2])
        local now = tonumber(ARGV[3])
        local requested = tonumber(ARGV[4])

        local lastTime = tonumber(redis.call('hget', key, 'timestamp')) or now
        local tokens = tonumber(redis.call('hget', key, 'tokens')) or capacity

        // 计算新增令牌
        local elapsed = math.max(now - lastTime, 0)
        local newTokens = math.floor(elapsed * rate)
        tokens = math.min(tokens + newTokens, capacity)

        // 检查令牌是否足够
        if tokens < requested then
            return 0
        end

        // 更新桶状态
        tokens = tokens - requested
        redis.call('hmset', key, 'tokens', tokens, 'timestamp', now)
        redis.call('expire', key, math.ceil(capacity/rate) + 10) // TTL缓冲
        return 1`)

    return &DistributedLimiter{client, script}
}

// 核心限流方法
func (dl *DistributedLimiter) Allow(key string, capacity, rate float64, tokensRequested int) (bool, error) {
    now := time.Now().UnixNano() / 1e6 // 毫秒时间戳
    res, err := dl.script.Run(dl.client, []string{key},
        capacity, rate, now, tokensRequested).Result()

    if err != nil {
        return false, err
    }
    return res.(int64) == 1, nil
}

最佳实践

• 参数设计：capacity（桶容量）和rate（令牌/毫秒）需根据业务调整
• 键命名：使用service:endpoint格式的Redis键名，如user_service:login
• 失败处理：Redis不可用时降级为本地限流或直接放行
• 预热机制：系统启动时预填充令牌避免冷启动问题

常见错误

• 时间精度问题：使用毫秒而非秒级时间戳，避免精度不足
• 竞争条件：未使用Lua脚本导致并发下计数不准确
• 资源泄漏：未设置Redis键的TTL导致内存泄漏
• 单点故障：未设计Redis集群方案，主节点故障导致全局限流失效

扩展知识

• 滑动窗口算法：更精确控制时间窗口内的请求量，但实现更复杂
• 自适应限流：根据系统负载动态调整限流阈值（如TCP BBR算法）
• 分层限流：结合全局+本地两级限流，降低Redis依赖
• 熔断机制：与Hystrix/Sentinel等熔断器配合使用，在限流基础上增加错误率检测