云平台elb组件的资源扩展方法和装置制造方法
【专利摘要】本发明公开了一种云平台ELB组件的资源扩展方法和装置，首先根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m；根据获取的历史数据中服务请求数量计算聚合值增长率k；将实时服务请求数量与服务实例最大处理能力进行比较；当实时服务请求数量大于服务实例最大处理能力时，计算聚合值增长率k与单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。本发明高效快速的响应高负载情况的请求响应，提高云平台的响应能力，提高资源使用效率，节约成本，应用价值高。
【专利说明】云平台ELB组件的资源扩展方法和装置
【技术领域】
[0001]本发明涉及云计算技术应用【技术领域】，特别是涉及一种云平台ELB组件的资源扩展方法和装置。
【背景技术】
[0002]云平台一个天然的特点就是面向高并发的访问，而解决高并发访问中响应速度的问题，将需要有一个负载均衡的办法来解决。负载均衡的核心思想就是通过将请求分散到不同的服务端进行处理，这样将会提升整个平台的吞吐效率。类似的ELB(Elastic LoadBalancer,弹性负载均衡器)在 CloudFoundry (—个PaaS 云平台)、Google App Engine (谷歌网络应用程序)都会起着很重要的作用。在Stratos (—种PaaS服务平台)中，ELB主要是对Cartridge访问的一个负载均衡，当过多的开发者需要同一个Cartridge时,将会先通过ELB进行一个请求分流,再将不同请求流分发到不同Cartridge,从而获取Cartridge的映射。
[0003]由于弹性是云计算平台最为重要的特性之一，也是评价云计算平台能力的重要标准，所以云计算平台的弹性扩展决策尤为重要。弹性扩展决策方法的好坏将直接关系到云计算平台是否能够按照用户的要求在适当的时间进行扩展，所以在云计算平台弹性扩展决策方面产生了大量的研究，也产生了成熟的产品。Auto Scaling(弹性扩展)是Amazon EC2云计算平台上的自动扩展服务，其功能是根据用户定义的触发器自动地创建或终止EC2虚拟机实例。Auto Scaling服务的基本工作方式如图1所示。图1中的Trigger (触发器)即为用户定义的触发器。根据图中触发器定义的规则，当平均CPU(Central ProcessingUnit,中央处理器)利用率大于80%时，将EC2实例增加10%，而当平均CPU利用率小于40%时，将EC2实例减少10%。图中的Launch Configurat1ns (启动配置)用来指定创建新的EC2实例所需要的参数。Amazon EC2上的另一个服务CloudWatch (云监控)负责监控EC2,根据CloudWatch得到的监控数据以及触发器中定义的扩展和收缩规则,Auto Scaling将自动对EC2进行扩展或收缩。
[0004]响应式扩展决策方法是根据当前云计算平台的负载以及人为设定的扩展规则进行自动弹性扩展的一种方法。Auto Scaling的弹性扩展方法即可归类于响应式扩展决策方法。由于这一类扩展决策方法完全依赖于对云计算平台的监控结果以及人为设定的扩展规贝U，实现相对比较简单，所以商业化的云计算平台多采用这种方法进行弹性扩展决策。但这类方法的缺陷是十分明显的，响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间，只是简单地在监控结果满足扩展规则时开始弹性扩展，所以导致用户需要经历一段延迟时间才能得到所需的资源。
[0005]预测式扩展决策方法是通过对云计算平台未来的负载量进行预测从而进行弹性扩展决策的方法。这类方法将云计算平台的历史监控值看作一个可预测的序列，并对该序列进行数学建模，可以使用回归、时间序列相似度分析等方法，那么下一个时间点的监控值就可以使用数学模型在下一个时间点的取值进行预测。在对云计算平台未来负载量进行预测后，就可以利用预测结果判断何时应该进行弹性扩展，做出弹性扩展决策。基于模式匹配的扩展决策方法，通过改进KMP (线性时间字符串匹配算法)算法对云计算平台的未来负载量进行预测，从而进行扩展决策。预测式扩展决策方法能够应对云计算平台扩展所需的延迟时间，但同时由于需要根据历史负载量预测未来负载量，这种方法需要详细准确的历史监控数据作为支撑。现有的关于服务质量监控的研究采用了不同的架构、协议或算法达到了在产生少量通信负载的情况下进行服务质量监控的目的，但其前提是在服务质量监控的场景中不需要得到准确的监控值，或者不要求在短时间内得到监控结果，所以现有的服务质量监控方法并不能及时获得详细准确的监控数据，所以并不能很好地支撑扩展决策。
[0006]在云平台ELB组件的实际应用中，一般的做法是直接采用响应式扩展策略，响应式扩展决策方法不考虑云计算平台弹性扩展所需要的时间，只是简单地在监控结果满足扩展规则时开始弹性扩展，所以导致用户需要经历一段延迟时间才能得到所需的资源。预测式扩展决策方法能够应对云计算平台扩展所需的延迟时间，但同时由于需要根据历史负载量预测未来负载量，这种方法需要详细准确的历史监控数据作为支撑，实际工作中工作量往往较大，不能满足实际工作的需求。
【发明内容】
[0007]基于上述情况，本发明提出了一种云平台ELB组件的资源扩展方法，高效快速的响应高负载情况的请求响应，提高云平台的响应能力，提高资源使用效率，节约成本，具有很高的应用价值。
[0008]为了实现上述目的，本发明技术方案的实施例为:
[0009]一种云平台ELB组件的资源扩展方法，包括以下步骤:
[0010]根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m ；
[0011]根据获取的历史数据中服务请求数量计算聚合值增长率k ；
[0012]将实时服务请求数量与服务实例最大处理能力进行比较，所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数
w的乘积确定；
[0013]当所述实时服务请求数量大于所述服务实例最大处理能力时，计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。
[0014]针对现有技术问题，本发明还提出了一种云平台ELB组件的资源扩展装置，有效解决现有响应式扩展导致用户需要经历一段延迟时间、预测式扩展工作量大不能满足实际工作需求的问题，适合应用。
[0015]本发明技术方案的实施例为:
[0016]一种云平台ELB组件的资源扩展装置，包括:
[0017]处理模块，用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m，并根据获取的历史数据中服务请求数量计算聚合值增长率k ；
[0018]比较模块，用于将实时服务请求数量与服务实例最大处理能力进行比较，所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数η 的乘积确定；
[0019]资源扩展模块，用于当所述实时服务请求数量大于所述服务实例最大处理能力时，计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。
[0020]与现有技术相比，本发明的有益效果为:本发明云平台ELB组件的资源扩展方法和装置，通过引入单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量和聚合值增长率等参数，计算聚合值增长率与单个服务实例平均每秒增量的比值，根据该比值预测需要启动的服务实例的个数，提前启动服务实例，在峰值到来之前，达到峰值性能需求的资源量扩展，有效的克服了响应式扩展决策方法不考虑弹性扩展所需要的时间，导致用户需要经历一段延迟时间才能得到所需的资源的问题，同时降低了预测式扩展决策需要计算拟合分析大量历史负载量预测未来负载量，高效快速的响应高负载情况的请求响应，提高云平台的响应能力，提高资源使用效率，节约成本，具有很高的应用价值。
【专利附图】
【附图说明】
[0021]图1为现有Auto Scaling服务基本工作方式示意图；
[0022]图2为一个实施例中云平台ELB组件的资源扩展方法流程图；
[0023]图3为基于图2所示方法一个具体示例中云平台ELB组件的资源扩展方法流程图；
[0024]图4为一个实施例中云平台ELB组件的资源扩展装置结构示意图。
【具体实施方式】
[0025]为使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步的详细说明。应当理解，此处所描述的【具体实施方式】仅仅用以解释本发明，并不限定本发明的保护范围。
[0026]一个实施例中云平台ELB组件的资源扩展方法，如图2所示，包括以下步骤:
[0027]步骤S201:根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m ；
[0028]步骤S202:根据获取的历史数据中服务请求数量计算聚合值增长率k ；
[0029]步骤S203:将实时服务请求数量与服务实例最大处理能力进行比较，所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n 的乘积确定；
[0030]步骤S204:当所述实时服务请求数量大于所述服务实例最大处理能力时，计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。
[0031]从以上描述可知，本发明云平台ELB组件的资源扩展方法，高效快速的响应高负载情况的请求响应，提高云平台的响应能力，提高资源使用效率，适合实际应用。
[0032]作为一个实施例，所述单个服务实例受理的最大服务请求数量maxRpt通过公式:
maxRpt = RpsX Λ t X AUR确定，所述单个服务实例平均每秒增量m通过公式:m =則咖
t确定，其中Rps表示单个服务实例每秒受理的最大服务请求数量，Δ t表示两次任务执行的时间间隔，AUR表示报警上限，t表示服务实例启动延时；
[0033]通过云平台ELB组件中配置的参数计算单个服务实例受理的最大服务请求数量、单个服务实例平均每秒增量的参数值，预测未来峰值能力，提前启动服务实例，具有很高的应用价值。
[0034]作为一个实施例，所述聚合值增长率k通过公式:
【权利要求】
1.一种云平台ELB组件的资源扩展方法，其特征在于，包括以下步骤: 根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m ; 根据获取的历史数据中服务请求数量计算聚合值增长率k ； 将实时服务请求数量与服务实例最大处理能力进行比较，所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数η $_的乘积确定； 当所述实时服务请求数量大于所述服务实例最大处理能力时，计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。
2.根据权利要求1所述的云平台ELB组件的资源扩展方法，其特征在于，所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt = RpsX Δ t X AUR确定,所述单个服务实例平均每秒增量m通过公式
t确定，其中Rps表示单个服务实例每秒受理的最大服务请求数量，Δ t表示两次任务执行的时间间隔，AUR表示报警上限，t表示服务实例启动延时。
3.根据权利要求1或2所述的云平台ELB组件的资源扩展方法，其特征在于，所述聚合值增长率k通过公式:
确定,其中Vi (t)表示历史数据中t时
刻第i个节点的服务请求数量，η表示节点总数，Δ t表示两次任务执行的时间间隔。
4.根据权利要求1所述的云平台ELB组件的资源扩展方法，其特征在于，在所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前，还包括步骤: 配置云平台ELB组件的自动弹性扩展参数和服务集群参数。
5.根据权利要求4所述的云平台ELB组件的资源扩展方法，其特征在于，在所述配置云平台ELB组件的自动弹性扩展参数和服务集群参数之后，所述根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数进行计算之前，还包括步骤: 配置云平台ELB组件的日志信息。
6.一种云平台ELB组件的资源扩展装置，其特征在于，包括: 处理模块，用于根据读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m，并根据获取的历史数据中服务请求数量计算聚合值增长率k ； 比较模块，用于将实时服务请求数量与服务实例最大处理能力进行比较，所述服务实例最大处理能力通过所述单个服务实例受理的最大服务请求数量maxRpt与实时运行服务实例个数n 的乘积确定； 资源扩展模块，用于当所述实时服务请求数量大于所述服务实例最大处理能力时，计算所述聚合值增长率k与所述单个服务实例平均每秒增量m的比值，根据所述比值进行资源扩展。
7.根据权利要求6所述的云平台ELB组件的资源扩展装置，其特征在于，所述单个服务实例受理的最大服务请求数量maxRpt通过公式:maxRpt = RpsX Δ t X AUR确定,所述单个服务实例平均每秒增量m通过公式:.
确定，其中Rps表示单个服务实例每秒受I理的最大服务请求数量，Δ t表示两次任务执行的时间间隔，AUR表示报警上限，t表示服务实例启动延时。
8.根据权利要求6或7所述的云平台ELB组件的资源扩展装置，其特征在于，所述聚合
值增长率k通过公式
确定，其中Vi (t)表示历史数据中t时 刻第i个节点的服务请求数量，η表示节点总数，Δ t表示两次任务执行的时间间隔。
9.根据权利要求6所述的云平台ELB组件的资源扩展装置，其特征在于，还包括配置模块，用于配置云平台ELB组件的自动弹性扩展参数和服务集群参数； 所述处理模块根据从所述配置模块读取的云平台ELB组件的自动弹性扩展参数和服务集群参数，计算单个服务实例受理的最大服务请求数量maxRpt和单个服务实例平均每秒增量m。
10.根据权利要求9所述的云平台ELB组件的资源扩展装置，其特征在于，所述配置模块还用于配置云平台ELB组件的日志信息。
【文档编号】H04L29/08GK104135525SQ201410375345
【公开日】2014年11月5日 申请日期:2014年7月31日 优先权日:2014年7月31日
【发明者】王旭, 周冠宇, 温云龙, 宋吉鹏 申请人:广州杰赛科技股份有限公司