设计一个支持动态权重调整的负载均衡器 -

题目

设计一个支持动态权重调整的负载均衡器

信息

类型：问答
难度：⭐⭐⭐

考点

负载均衡算法, 动态配置更新, 高并发下的线程安全

快速回答

实现动态权重负载均衡器的核心要点：

使用加权轮询算法结合平滑权重分配避免突发流量
通过原子操作或读写锁保证权重更新的线程安全
采用配置中心（如ZooKeeper）实现动态更新
添加健康检查机制自动剔除故障节点
使用双重校验锁降低同步开销

## 解析

1. 核心原理

动态权重负载均衡器需要实时响应后端服务器状态变化（如CPU负载、网络延迟）。关键技术点：

平滑加权轮询算法：避免权重突变导致流量倾斜
配置热更新：不重启服务更新权重
并发控制：高并发场景下保证数据一致性

2. 算法实现（代码示例）

// 服务器节点定义
class ServerNode {
    String ip;
    int weight;         // 配置权重
    int currentWeight;  // 当前权重（运行时动态变化）

    // 原子更新权重
    void updateWeight(int newWeight) {
        this.weight = newWeight;
    }
}

// 负载均衡器核心逻辑
public class DynamicLoadBalancer {
    private volatile List<ServerNode> servers;
    private final ReadWriteLock lock = new ReentrantReadWriteLock();

    // 平滑加权轮询
    public ServerNode nextServer() {
        lock.readLock().lock();
        try {
            ServerNode selected = null;
            int totalWeight = 0;

            // 1. 遍历所有节点更新当前权重
            for (ServerNode node : servers) {
                node.currentWeight += node.weight;
                totalWeight += node.weight;

                // 2. 选择当前权重最大的节点
                if (selected == null || 
                    node.currentWeight > selected.currentWeight) {
                    selected = node;
                }
            }

            // 3. 被选中的节点扣除总权重
            if (selected != null) {
                selected.currentWeight -= totalWeight;
                return selected;
            }
            return null;
        } finally {
            lock.readLock().unlock();
        }
    }

    // 动态更新权重（外部调用）
    public void updateServerWeight(String ip, int newWeight) {
        lock.writeLock().lock();
        try {
            servers.stream()
                .filter(node -> node.ip.equals(ip))
                .forEach(node -> node.updateWeight(newWeight));
        } finally {
            lock.writeLock().unlock();
        }
    }
}

3. 最佳实践

权重更新策略：
- 基于QPS/延迟的自动调整：每5秒采集指标，计算新权重
- 人工干预通道：通过API覆盖自动权重
健康检查集成：
- 定时TCP/HTTP探活（如每10秒）
- 连续失败3次后权重设为0（暂停流量）
配置更新优化：
- 使用CopyOnWriteArrayList减少读锁竞争
- 批量更新：合并10ms内的多次更新请求

4. 常见错误与规避

错误类型	后果	解决方案
更新权重时未加锁	数据竞争导致权重计算错误	读写锁分离（读多写少场景）
直接修改权重未用原子操作	并发更新时丢失修改	使用AtomicInteger或volatile+CAS
忽略权重归一化处理	流量分配比例失真	更新后重新计算总权重比值