流媒体集群服务中有N台服务器,则服务器集合为SERVER = { Si | i = 1, 2, 3, …, n }。每台服务器Si考查的主要性能指标参数为CPU、内存、网络吞吐量,CPU的利用率表示为Load(Ci),内存利用率表示为Load(Mi),网络吞吐率表示为Load(Ni),由于流媒体连接数与流带宽在网络带宽固定情况下成反比,其他I/O操作等小影响参数也与CPU有关,故计算负载率时不予考虑这些参数。这些参数比重值集合为:

w={ w | j=1, 2, 3, ∑wj =1,wj≥0 }

该比重值越大代表该项参数越重要,则第i台服务器的基本负载率为:

Load(i)=w1×Load(Ci)+w2×Load(Mi)+w3×Load(Ni)

本文对每个服务器引入健康度值a,a的取值为:

a=

则第i台服务器的综合负载率为:

LOAD(i) = a×Load(i)

服务器集群综合负载率集合为:

LOAD = { LOAD(i) | i = 1, 2, 3, …, n }

这里的LOAD(i)值位于区间[0,1),0值代表服务器i服务故障,LOAD(i)值从小到大表示服务负载率轻重程度,理想状态情况下,不分层时达到平衡状态时应为:

LOAD(1) = LOAD(2) = … = LOAD(i) = LOAD(n)

实际情况下并不能达到这种理想的平衡状态,在分层的分布式流媒体服务集群系统中也不需要这种平衡状态。根据实际服务运行环境,需从根层到叶子节点层对流媒体服务集群进行层次式划分,层权值按从小到大分配为W0 < W1 < …< Wj,划分后综合负载率分布空间应为:

{LOAD(1j) | j=1,2,…,n}< {LOAD(2j) | j=1,2,…,n}< {LOAD(Nj) | j=1,2,…,n}

其中,LOAD(Nj)为第N层第j个服务器,在同一层次中,即路由距离相等的集合中,算法目标是本层负载平衡,而从根层到叶子层,算法目标是负载率大小变化一致于权重大小变化。节点服务负载率不能超过服务负载能力,如果预估超出区间溢出,由上层服务。

负载均衡调度目标是把用户请求转发到服务集群中路径负载率最轻的服务节点上,其中定时获取T值影响服务负载率的计算。若T过大,负载率值更新不及时,导致集群中服务负载率不均衡;若T过小,频繁获取服务相关参数会开销过多资源,影响服务负载率(相比较其他资源而言,主要是CPU资源消耗)。基于健康度的动态反馈原理如图2所示:

图2

	Figure Option ViewDownloadNew Window
	图2 动态反馈原理

服务集群中节点负载率的计算关键是T值, T值选取结合如下两种方法:

(1)依据历史负节点载率,在某一时刻下,节点i昨天负载率为Li1,前天负载率为Li2,大前天负载率为Li3,则节点i的历史平均负载率为:

Li = (Li1 + Li2 + Li3) / 3

定时T值的取值函数为:

F(Li)= m×Li + n,T = F(Li),m < 0,m,n为常数

m绝对值越大,线性递减速度越快,T值随负载率变化越快,因此T值随着历史负载率的变化自动调整取值。

(2)对于整个分布式流媒体服务集群按层次式划分区域,同层为同一区域,同区域按负载率大小划分为4个区间,分别为:

[0, 0.3, t],[0.3, 0.6, t],[0.6, 0.8, t], [0.8, 1, t]

这4个区间代表轻负载、适度负载、重负载和负载临界转移区间,算法在同一个区间内采取随机轮询分配,其中t为定时获取T的值。采集节点数据后,负载均衡计算负载率并把节点分配到相应区间,给t赋新T值,并开始预估节点负载率。

动态反馈算法结合上述两种办法一块执行,方法是负载均衡运行时,初始以历史负载率计算的T值为采样间隔并计算节点负载率,同时T时刻的值写入区间内t值,并置节点于相应负载率区间,然后预估节点负载率,利用溢出区间与T值相结合方式进行下一轮负载率计算。

负载均衡算法开始运行时,从根层到叶子层,分别给每个层分配权值,并配置各层区域的4个负载率区间,同时计算服务集群中的所有节点负载率,并把节点置于相应层的相应区间中,然后执行以下过程:

(1)依据历史负载率计算新T值,并以T值为采样间隔,计算下一次采样时间;

(2)在T值内,预估节点负载率,如果无请求,继续步骤(1);

(3)请求到达负载均衡,根据静态路由表判断用户所属服务区域,然后从区域内随机选出负载率最轻的不为0的健康的节点,同时预估此节点的负载率;

(4)在T值内,如果此预估负载率没有超出区间范围,以T值采样,继续步骤(1);

(5)在T值内,如果此预估负载率超出区间范围或进入临界转移区间,触发采样,继续步骤(1);

(6)如果本层中所有节点负载率都达到临界区或负载率全为0,后续请求将从权值小的上层中选择负载率较小的节点,直至根节点,触发采样,继续步骤(1)。