设计一个基于权重的负载均衡算法

题目

设计一个基于权重的负载均衡算法

信息

• 类型：问答
• 难度：⭐⭐

考点

负载均衡算法,权重配置,健康检查,高可用性

快速回答

实现一个支持权重配置和健康检查的负载均衡算法，需包含以下要点：

• 使用加权轮询算法分配请求
• 支持运行时动态调整权重
• 集成健康检查机制自动屏蔽故障节点
• 处理权重为0的特殊情况

1. 核心原理

加权负载均衡通过给不同服务器分配权重值（如CPU性能、内存大小）实现差异化流量分配：

• 权重计算：总权重 = Σ(各节点权重)，节点分配概率 = 节点权重/总权重
• 健康检查：定期TCP/HTTP探测，故障节点权重临时置0
• 动态调整：运行时根据负载变化更新权重

2. 算法实现（Python示例）

class WeightedLoadBalancer:
    def __init__(self, servers):
        self.servers = servers  # 格式: [{'ip': '192.168.1.1', 'weight': 3, 'healthy': True}, ...]
        self.current_index = -1
        self.current_weight = 0

    def health_check(self):
        for server in self.servers:
            # 模拟健康检查（实际实现需网络探测）
            server['healthy'] = random.random() > 0.2  # 20%故障率

    def get_next_server(self):
        self.health_check()  # 每次请求前检查
        healthy_servers = [s for s in self.servers if s['healthy'] and s['weight'] > 0]

        if not healthy_servers:
            raise Exception("No available servers")

        total_weight = sum(s['weight'] for s in healthy_servers)

        while True:
            self.current_index = (self.current_index + 1) % len(healthy_servers)
            if self.current_index == 0:
                self.current_weight = self.current_weight - 1
                if self.current_weight <= 0:
                    self.current_weight = max(s['weight'] for s in healthy_servers)

            server = healthy_servers[self.current_index]
            if server['weight'] >= self.current_weight:
                return server['ip']

3. 最佳实践

• 权重设置：根据服务器配置（CPU核心数、内存）按比例设置初始权重
• 健康检查优化：
  • TCP检查：默认间隔5秒，超时2秒
  • HTTP检查：对/health路径返回200-399状态码
  • 熔断机制：连续失败3次标记为不健康
• 动态调整：监控CPU/内存负载，超过80%自动降低权重

4. 常见错误

• 权重未归一化：新增节点后未重新计算总权重导致概率偏差
• 健康检查风暴：过于频繁的检查（如每秒百次）造成网络拥堵
• 状态同步问题：集群环境下未同步健康状态导致各节点决策不一致

5. 扩展知识

• 平滑加权轮询：避免低权重节点长时间饥饿（如Nginx算法）
• 动态权重策略：
  • 响应时间加权：RT每增加50ms权重降低10%
  • 错误率加权：错误率超5%权重减半
• 多维度负载：结合CPU、内存、网络IO综合计算负载得分