工具系列 | 负载均衡算法 - 平滑加权轮询
简介
在 负载均衡算法 — 轮询 一文中,我们就指出了加权轮询算法一个明显的缺陷。即在某些特殊的权重下,加权轮询调度会生成不均匀的实例序列,这种不平滑的负载可能会使某些实例出现瞬时高负载的现象,导致系统存在宕机的风险。为了解决这个调度缺陷,就提出了 平滑加权轮询 调度算法。
待解决的问题
为了说明平滑加权轮询调度的平滑性,使用以下 3 个特殊的权重实例来演示调度过程。
服务实例 |
权重值 |
---|---|
192.168.10.1 |
5 |
192.168.10.2 |
1 |
192.168.10.3 |
1 |
我们已经知道通过 加权轮询 算法调度后,会生成如下不均匀的调度序列。
请求 |
选中的实例 |
---|---|
1 |
192.168.10.1 |
2 |
192.168.10.1 |
3 |
192.168.10.1 |
4 |
192.168.10.1 |
5 |
192.168.10.1 |
6 |
192.168.10.2 |
7 |
192.168.10.3 |
接下来,我们就使用平滑加权轮询算法调度上述实例,看看生成的实例序列如何?
算法描述
假设有 N 台实例 S = {S1, S2, …, Sn},配置权重 W = {W1, W2, …, Wn},有效权重 CW = {CW1, CW2, …, CWn}。每个实例 i 除了存在一个配置权重 Wi 外,还存在一个当前有效权重 CWi,且 CWi 初始化为 Wi;指示变量 currentPos 表示当前选择的实例 ID,初始化为 -1;所有实例的配置权重和为 weightSum;
那么,调度算法可以描述为: 1、初始每个实例 i 的 当前有效权重 CWi 为 配置权重 Wi,并求得配置权重和 weightSum; 2、选出 当前有效权重 最大 的实例,将 当前有效权重 CWi 减去所有实例的 权重和 weightSum,且变量 currentPos 指向此位置; 3、将每个实例 i 的 当前有效权重 CWi 都加上 配置权重 Wi; 4、此时变量 currentPos 指向的实例就是需调度的实例; 5、每次调度重复上述步骤 2、3、4;
上述 3 个服务,配置权重和 weightSum 为 7,其调度过程如下:
请求 |
选中前的当前权重 |
currentPos |
选中的实例 |
选中后当前权重 |
---|---|---|---|---|
1 |
{5, 1, 1} |
0 |
192.168.10.1 |
{-2, 1, 1} |
2 |
{3, 2, 2} |
0 |
192.168.10.1 |
{-4, 2, 2} |
3 |
{1, 3, 3} |
1 |
192.168.10.2 |
{1, -4, 3} |
4 |
{6, -3, 4} |
0 |
192.168.10.1 |
{-1, -3, 4} |
5 |
{4, -2, 5} |
2 |
192.168.10.3 |
{4, -2, -2} |
6 |
{9, -1, -1} |
0 |
192.168.10.1 |
{2, -1, -1} |
7 |
{7, 0, 0} |
0 |
192.168.10.1 |
{0, 0, 0} |
8 |
{5, 1, 1} |
0 |
192.168.10.1 |
{-2, 1, 1} |
可以看出上述调度序列分散是非常均匀的,且第 8 次调度时当前有效权重值又回到 {0, 0, 0}
,实例的状态同初始状态一致,所以后续可以一直重复调度操作。
此轮询调度算法思路首先被 Nginx 开发者提出,见 phusion/nginx 部分。
代码实现
class SmoothWeightedRobin implements RobinInterface
{
private $services = array();
private $total;
private $currentPos = -1;
public function init(array $services)
{
foreach ($services as $ip => $weight) {
$this->services[] = [
'ip' => $ip,
'weight' => $weight,
'current_weight' => $weight,
];
}
$this->total = count($this->services);
}
public function next()
{
// 获取最大当前有效权重实例的位置
$this->currentPos = $this->getMaxCurrentWeightPos();
// 当前权重减去权重和
$currentWeight = $this->getCurrentWeight($this->currentPos) - $this->getSumWeight();
$this->setCurrentWeight($this->currentPos, $currentWeight);
// 每个实例的当前有效权重加上配置权重
$this->recoverCurrentWeight();
return $this->services[$this->currentPos]['ip'];
}
}
其中,getSumWeight()为所有实例的配置权重和;getCurrentWeight()和 setCurrentWeight()分别用于获取和设置指定实例的当前有效权重;getMaxCurrentWeightPos()求得最大当前有效权重的实例位置,实现如下:
public function getMaxCurrentWeightPos()
{
$currentWeight = $pos = 0;
foreach ($this->services as $index => $service) {
if ($service['current_weight'] > $currentWeight) {
$currentWeight = $service['current_weight'];
$pos = $index;
}
}
return $pos;
}
recoverCurrentWeight()用于调整每个实例的当前有效权重,即加上配置权重,实现如下:
public function recoverCurrentWeight()
{
foreach ($this->services as $index => &$service) {
$service['current_weight'] += $service['weight'];
}
}
需要注意的是,在配置services服务列表时,同样需要指定其权重:
$services = [
'192.168.10.1' => 5,
'192.168.10.2' => 1,
'192.168.10.3' => 1,
];
证明权重合理性
证明平滑性
证明平滑性,只要证明不要一直都是连续选择那一个节点即可。
总结
尽管,平滑加权轮询算法改善了加权轮询算法调度的缺陷,即调度序列分散的不均匀,避免了实例负载突然加重的可能,但是仍然不能动态感知每个实例的负载。
若由于实例权重配置不合理,或者一些其他原因加重系统负载的情况,平滑加权轮询都无法实现每个实例的负载均衡,这时就需要 有状态 的调度算法来完成。
源码地址https://github.com/Tinywan/load-balancing
- 整理ING
- dg broker校验失败的一个奇怪问题(二) (r8笔记第51天)
- Jdbc知识点全整理,你值得拥有 (2)
- 抓住“新代码”的影子 —— 基于GoAhead系列网络摄像头多个漏洞分析
- Python 用OPEN读文件报错 ,路径以及r
- python 如何设置多线程
- R语言读CSV、txt文件方式以及read.table read.csv 和readr(大数据读取包)
- python 多进程设置 整理版本1
- 11g Dataguard中的snapshot standby特性(r8笔记第49天)
- 物化视图刷新结合ADG的尝试 (r8笔记第47天)
- 关于CPU使用率高的awr分析(r8笔记第46天)
- 图形工具和命令行的博弈-swingbench配置(r8笔记第63天)
- 手把手教你用LDA特征选择
- 一个关于执行计划的小问题测试(r8笔记第60天)
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- Kaggle共享单车数据分析——数据可视化
- 掌握这些SQL面试题再也不怕面试懵逼了
- 用二叉树实现自动求导(Python版)
- 上海展盟网络科技有限公司的 gamebox 组件注入进程导致软件崩溃
- IdentityServer4 3.1.x 迁移到 4.x
- 淘宝用户行为数据分析
- PyTorch中Transformer模型的搭建
- A轮公司数据分析面试经验
- Pytorch转NCNN的流程记录
- 算法图解:如何找出栈中的最小值?
- 滴滴出行二面笔试题
- spring JdbcTemplate 查询,参数中使用BeanPropertyRowMapper的作用
- 百万级类别的分类模型的拆分训练
- 关于Spring定义的preDestroy修饰的方法不执行,有以下两种原因,总有一款适合你
- CSP201912-2-回收站选址题目解析-Java ,