一种网页服务细粒度的评估装置、评估方法和评估系统与流程

本发明涉及互联网，尤其涉及一种网页服务细粒度的评估装置、评估方法和评估系统。

背景技术：

1、随着科学技术的发展，基于web的b/s架构系统在当前互联网时代中扮演着重要位置，人们的生活和各种需求依靠互联网得到了极大的满足。因此，与web应用相关的网页qoe评估便也变得相应重要起来。为满足网页类型质量评估实际业务需求，需要实现对多类型网络应用进行准确客观的服务质量评估。其中可用性便是用于衡量网页质量的一个重要方面。然而网页质量是一个由一系列相互依赖的因素所构成的多维概念。一些影响网页质量的因素是主观的，因素之间的关系更是复杂，仅仅只靠可用性将存在评价维度太低只有可用与不可用和评价细粒度粗等问题。建立合理的有关网页类型的qoe模型便尤为重要。

2、目前，国内外有关网页质量评估qoe评价模型的研究有很多，其中分为主观评价和客观评价。主观评价方法就是直接围绕用户感知为中心，从用户体验的角度对业务进行直接评价，所以主观评价方法是最有针对性的和准确性的。但其缺点是当考虑的因素过多时，其需要耗费的人力物力大，可移植性差。在一些现有技术例如国际电信联盟(itu)以语音业务为背景提出的平均评估分析法，其将用户对语音的体验分为5级，表示用户对语音质量的流畅感觉。客观评价方法就是通过测量网页的一些指标数据，来间接表示用户体验。其好处是客观、可重复、可量化。但缺陷是不能直接反应用户的体验。常用的客观方法大都以机器学习的方式，通过对大量样本用户数据进行学习，得到各个指标与网页qoe的映射关系。中便是一种基于深度神经网络的实时网页质量评估方法，通过对获取网页的相关信息，得到目标格式的指标数据，利用所述目标格式数据对网页质量评估webqmon.ai框架中基于深度神经网络的预设分类模型进行训练，使得模型能够预测网页的各项qoe指标并生成网页质量评估结果。

3、国际上也都在开展网页类型服务评估系统的研发与完善。lighthouse是谷歌浏览器推出的一款开源自动化工具，它可以搜集多个现代网页性能指标，分析web应用的性能并生成报告，为开发人员进行性能优化的提供了参考方向，其优点是本地节点运行，但其模板无法根据需求选择自定义服务评估。美国的webpagetest便是一款专业的web页面性能分析工具，它可以对检测分析的环境配置进行高度自定义化，内容包括测试节点的物理位置、设备型号、浏览器版本、网络条件和检测次数等，除此之外，它还提供了目标网站应用于竞品之间的性能比较，以及查看网络路由情况等多种维度下的测试工具。但webpagetest在面对国内用户性能和实时网络状况时存在数据量较小，单次数据不够稳定等问题。gtmetrix是由位于加拿大温哥华的托管公司gt.net的人员构建的免费性能测试工具。他们提供专用、集群和私有云托管解决方案，以及专用于性能的特定工具集。但是由于评价模型基本固定不公开，软件不自主可控，无法根据需要配置无国内节点。经过我们评测，这些工具都不能很好满足国内基本需求，无法完全照搬。为此，本发明为满足我国本地节点可定制、精细化服务质量评估系统的需求而出现。同时，本发明具有多指标监测功能、服务质量分级评价模型构建功能、支持灵活配置功能，对提升网络性能，提高用户体验有重要意义。

技术实现思路

1、本发明的实施例提供了一种网页服务细粒度的评估装置、评估方法和评估系统，用于解决现有技术中存在的问题。

2、为了实现上述目的，本发明采取了如下技术方案。

3、一种网页服务细粒度的评估装置，包括指标监测模块、数据监测处理模块、层次分析模块、指标打分模块和可视化交互模块；

4、所述指标监测模块用于：通过构建两级指标体系，对网页类型模板的指标进行定义评估；基于定义评估的指标，建立监测网页类型相关值的模型；设计网页爬虫程序，通过所述网页爬虫程序爬取网页数据；所述两级指标体系中，一级指标包括响应时间属性、传输速率属性和服务鲁棒性；

5、所述数据监测处理模块用于：基于爬取的网页数据，通过所述监测网页类型相关值的模型，获得网页指标真实数据；对所述网页指标真实数据进行处理，获得指标数据的分布情况，并根据所述指标数据的分布情况制定指标得分标准；

6、所述层次分析模块用于：通过建立层次结构模型，对url指标数据进行层次分级，确定每级指标的权重；基于所述两级指标体系，对url指标数据层级进行两两比对，构建对比矩阵；计算所述对比矩阵的权重向量，检验所述权重向量的一致性；将每级指标的权重进行组合，获得所有url指标数据未进行层次分级的指标权重；

7、所述指标打分模块用于：根据所述指标得分标准，制定指标得分模板；通过所述指标得分模板，结合指标得分函数和所述每级指标的权重，分别获得响应时间属性维度、传输速率属性维度和服务鲁棒性维度的评分，每个指标的评分，和总的性能的评分；

8、所述可视化交互模块用于：接收网页服务细粒度评估指令；将网页服务细粒度评估指令发送至所述指标监测模块；对所述指标打分模块获得的评分结果进行可视化输出。

9、优选地，所述两级指标体系中，二级指标包括：响应时间属性中的建立连接时间、dns解析时间、开始/结束时间、首包时间、ssl握手时间、网络延时和重定向时间；传输速率属性中的下载速度、最大内容绘制速率lcp和首次内容绘制速率fcp；服务鲁棒属性中的传输丢包率、时延抖动和http状态码；

10、所述的基于定义评估的指标，建立监测网页类型相关值的模型的过程包括：

11、通过pycurl库建立用于监测所述建立连接时间、dns解析时间、开始/结束时间、首包时间、ssl握手时间、重定向时间、http状态码的下载速度的模型；

12、通过lighthouse建立用于监测所述最大内容绘制速率lcp、首次内容绘制速率fcp的模型；

13、通过tshake工具监测待监测网站url在某段时间内重传的tcp包数与传输总的tcp包数之间的比率，获得所述服务鲁棒属性中的传输丢包率的指标；

14、通过python的ping3库监测监测网站url的信息，获得所述服务鲁棒属性中的时延抖动的指标和所述响应时间属性中的网络延时的指标。

15、优选地，所述的爬取网页数据包括爬取网页类型应用url数据，具体包括：

16、通过python的request库得到html文件内容；

17、通过python的beautifulsoup库对获得的html文件内容进行筛选，获得当前网页在a标签中的url与剩余网页数n；

18、获得剩余网页在a标签中的url；

19、所述的根据所述指标数据的分布情况制定指标得分标准的过程包括：

20、将所述指标数据的分布划分为10个等分区间，获得每一等分区间的端点指标值；

21、对每一等分区间的端点指标值进行线性映射，获得指标分数。

22、优选地，所述的将所述指标数据的分布划分为10个等分区间，获得每一等分区间的端点指标值的过程包括：

23、基于所述指标数据的分布的区间为0-100，将所述指标数据的分布划分为10个等分区间；

24、每一等分区间的端点指标值为该等分区间的端点的最大绝对值的百分数。

25、优选地，所述的通过建立层次结构模型，对url指标数据进行层次分级，确定每级指标的权重的过程包括：

26、确定一级指标的权重；

27、确定二级指标占一级指标的权重；

28、通过一级指标的权重乘以二级指标占一级指标的权重，获得所有指标权重；

29、所述的基于所述两级指标体系，对url指标数据层级进行两两比对，构建对比矩阵，以及所述的计算所述对比矩阵的权重向量，检验所述权重向量的一致性的过程包括：

30、通过对所述指标响应时间属性、传输速率属性和服务鲁棒属性进行两两比对，构建第一对比矩阵；

31、通过对所述建立连接时间、dns解析时间、开始/结束时间、首包时间、ssl握手时间、网络延时和重定向时间进行两两对比，构建第二对比矩阵；

32、通过对下载速度、最大内容绘制速率lcp和首次内容绘制速率fcp进行两两对比，构建第三对比矩阵；

33、通过对所述传输丢包率和时延抖动进行对比，构建第四对比矩阵；

34、计算所述第一对比矩阵、第二对比矩阵、第三对比矩阵和第四对比矩阵的最大特征根λ和对应的特征向量w；

35、通过式

36、ci＝λ-n/n-1

37、分别计算获得所述第一对比矩阵、第二对比矩阵、第三对比矩阵和第四对比矩阵的一致性指标ci；式中，λ为最大特征根，n为指标数；

38、通过式

39、cr＝ci/ri

40、分别计算获得所述第一对比矩阵、第二对比矩阵、第三对比矩阵和第四对比矩阵的一致性比率cr；式中，ri为随机一致性指标；

41、若cr<0.1，则检验通过，将权重向量w作为特征向量；若cr>＝0.1，则检验不通过，返回执行构造对比较阵的子步骤；

42、将每级指标的权重进行组合，获得所有url指标数据未进行层次分级的指标权重。

43、第二方面，本发明提供一种网页服务细粒度的评估方法，包括：

44、通过构建两级指标体系，对网页类型模板的指标进行定义评估；基于定义评估的指标，建立监测网页类型相关值的模型；所述两级指标体系中，一级指标包括响应时间属性、传输速率属性和服务鲁棒性；设计网页爬虫程序，通过所述网页爬虫程序爬取网页数据；

45、基于爬取的网页数据，通过所述监测网页类型相关值的模型，获得网页指标真实数据；对所述网页指标真实数据进行处理，获得指标数据的分布情况，并根据所述指标数据的分布情况制定指标得分标准；

46、通过建立层次结构模型，对url指标数据进行层次分级，确定每级指标的权重；基于所述两级指标体系，对url指标数据层级进行两两比对，构建对比矩阵；计算所述对比矩阵的权重向量，检验所述权重向量的一致性；将每级指标的权重进行组合，获得所有url指标数据未进行层次分级的指标权重；

47、根据所述指标得分标准，制定指标得分模板；通过所述指标得分模板，结合指标得分函数和所述每级指标的权重，分别获得响应时间属性维度、传输速率属性维度和服务鲁棒性维度的评分，每个指标的评分，和总的性能的评分。

48、第三方面，本发明一种网页服务细粒度的评估系统，包括多个监测节点，以及分别控制该多个监测节点的总控节点；每个所述监测节点具有上述的评估装置。

49、由上述本发明的实施例提供的技术方案可以看出，本发明提供一种网页服务细粒度的评估装置、评估方法和评估系统，创造性的提出从响应时间属性、传输速率属性和服务鲁班属性这三个维度来展示网页性能和用户体验，并提出了分级指标体系；设计了待监测样本数据的采集方法、指标监测方法和指标数据的获取方法，实现网络状态精准探测感知；根据获取的指标数据分布情况，划分指标值的等级并制定指标打分标准；采用层次分析法确定分级指标权重，得到各级指标权重和总的一维指标权重；建立指标打分模板，灵活选择指标，实现细粒度、多样化的网页类型服务评估；网页可视化展示，实现用户对网页类型的细粒度评估系统的交互操作；灵活分布式部署，实现国内多节点对网页类型应用进行评估。本发明提供的评估装置、评估方法和评估系统还具有如下优点：与现有技术相比，本发明的方案监测的网页指标更多，根据连接时间、时延、错误码等指标多维度组合方式，构建了分级评估体系，实现了网页类型的细粒度评估。其中评估结果可从从响应时间属性、传输速率属性、服务鲁棒性三个维度评分、各个指标的评分和总的性能评分来看。同时网页评估模型指标可选，灵活模板配置，实现多样化网页类型的评估；本发明的方案监测节点以总节点-子节点的拓扑方式部署；其中节点中总节点用于数据存储与可视化，子节点用于不同地点的网页类型数据监测与评估。这种部署方式实现了国内节点的可部署、可扩展、可呈现、易使用等功能，同时方便维护与管理。

50、本发明附加的方面和优点将在下面的描述中部分给出，这些将从下面的描述中变得明显，或通过本发明的实践了解到。