一种数据统计方法、装置、电子设备及存储介质与流程

文档序号:21263910发布日期:2020-06-26 22:35阅读:169来源:国知局
一种数据统计方法、装置、电子设备及存储介质与流程

本申请涉及互联网领域,尤其涉及一种数据统计方法、装置、电子设备及存储介质。



背景技术:

在服务器集群管理中,为实现计算资源的最大化利用,后台管理人员需要对各服务器集群的计算资源的使用情况进行统计,确定资源使用率低的服务器集群,以便利用资源使用率低的空闲服务器集群的计算资源。

相关技术中,在进行计算资源统计时,后台管理人员可以针对每个服务器集群中的每个服务器,通过客户端从监控系统中读取某一时段内该服务器的运行数据,运行数据包括每一秒处理数据的流量、占用的i/o接口数。然后,后台管理人员可以通过客户端,统计这一时段内构成该服务器集群的各个服务器的运行数据,得到该服务器集群的集群运行数据。之后,后台管理人员可以将集群运行数据低于预设阈值的服务器集群作为资源使用率低的空闲服务器集群。

然而,由于后台管理人员仅能通过人工方式统计某一服务器集群包含的各服务器的运行数据,计算资源的统计方式单一、并且统计效率低。



技术实现要素:

为了解决上述计算资源的统计效率低的技术问题,本申请提供了一种数据统计方法、装置、电子设备及存储介质。

第一方面,本申请提供了一种数据统计方法,所述方法包括:

获取每台服务器的第一监控数据,所述第一监控数据包括服务器标识、运行数据;

针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;

在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器对应的第二监控数据;

确定待聚类的配置信息的目标类别;

按照所述目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;

基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

可选的,所述基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据,包括:

针对每组第二监控数据,计算该组第二监控数据包含的运行数据的和值,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述运行数据包括计算资源的使用量,所述方法还包括:

针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值;

根据该组第二监控数据对应的计算资源的使用量的和值、所述计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述方法还包括:

依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果;

确定比较结果为预设比较结果的目标服务器集群;

输出所述目标服务器集群的集群运行数据和所述预设比较结果。

可选的,所述确定待聚类的配置信息的目标类别,包括:

当接收到集群运行数据的统计指令时,获取所述统计指令携带的待聚类的配置信息的类别标识;

将所述类别标识对应的类别,作为待聚类的配置信息的目标类别。

可选的,所述至少一种配置信息包括:服务器所属服务器集群的集群标识、服务器中所运行服务的服务标识、服务器所属数据机房的数据机房标识。

第二方面,本申请还提供了一种数据统计装置,所述装置包括:

获取模块,用于获取每台服务器的第一监控数据,所述第一监控数据包括服务器标识、运行数据;

第一确定模块,用于针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;

添加模块,用于在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器对应的第二监控数据;

第二确定模块,用于确定待聚类的配置信息的目标类别;

聚类模块,用于按照所述目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;

计算模块,用于基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

可选的,所述计算模块包括:

计算子模块,用于针对每组第二监控数据,计算该组第二监控数据包含的运行数据的和值,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述计算子模块还用于在所述运行数据包括计算资源的使用量的情况下,针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值;根据该组第二监控数据对应的计算资源的使用量的和值、所述计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述装置还包括:

比较模块,用于依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果;

第三确定模块,用于确定比较结果为预设比较结果的目标服务器集群;

输出模块,用于输出所述目标服务器集群的集群运行数据和所述预设比较结果。

可选的,所述第二确定模块包括:

获取子模块,用于当接收到集群运行数据的统计指令时,获取所述统计指令携带的待聚类的配置信息的类别标识;

确定子模块,用于将所述类别标识对应的类别,作为待聚类的配置信息的目标类别。

可选的,所述至少一种配置信息包括:服务器所属服务器集群的集群标识、服务器中所运行服务的服务标识、服务器所属数据机房的数据机房标识。

第三方面,本申请还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;

存储器,用于存放计算机程序;

处理器,用于执行存储器上所存放的程序时,实现任一第一方面所述的方法步骤。

第四方面,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如任一第一方面所述的方法步骤。

第五方面,本申请还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一所述的数据统计方法。

本申请实施例提供的上述技术方案与现有技术相比具有如下优点:

本申请实施例提供的该方法,可以获取每台服务器的第一监控数据,第一监控数据包括服务器标识、运行数据;针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;然后,在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器的第二监控数据;然后,确定待聚类的配置信息的目标类别,按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

由于针对每台服务器生成包含配置信息的第二监控数据,并按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,从而实现对服务器集群包含的各服务器的运行数据进行聚类,因此,可以快速计算服务器集群的集群运行数据,提高计算资源的统计效率。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种数据统计方法的流程图;

图2为本申请实施例提供的另一种数据统计方法的流程图;

图3为本申请实施例提供的另一种数据统计方法的流程图;

图4为本申请实施例提供的一种数据统计装置的结构示意图;

图5为本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。

本申请实施例提供了一种数据统计方法,该方法应用于电子设备,电子设备可以具有数据处理功能,电子设备可以作为用于对分布式系统的多个服务器集群进行管理的后台服务器,后台管理人员可以通过电子设备对分布式系统中各服务器的运行数据进行统计,从而确定各服务器组成的服务器集群的集群运行数据。其中,运行数据例如每一秒处理数据的流量、占用的i/o(input/output、输入/输出)接口数。

基于统计某一服务器集群的集群运行数据,可以确定该服务器集群的剩余可用计算资源,从而实现统计该服务器集群的容量。

如图1所示,本申请实施例提供的一种数据统计方法的处理过程可以包括以下步骤:

步骤101,获取每台服务器的第一监控数据。

其中,第一监控数据包括服务器标识、运行数据。

在实施中,监控系统可以对各服务器的运行数据进行实时采集与监控,电子设备可以从监控系统处获取每台服务器的第一监控数据。

电子设备可以实时获取每台服务器的第一监控数据;电子设备也可以按照预设的统计周期,获取每台服务器的第一监控数据;电子设备还可以在接收到后台管理人员发出的统计指令后,获取每台服务器的第一监控数据。

例如,各服务器的第一监控数据如表1所示,其中,第一监控数据包括服务器标识、采集运行数据的时间戳、运行数据标识、运行数据的数值。

表1

步骤102,针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息。

在实施中,电子设备可以针对每台服务器,在预先存储的服务器与至少一种配置信息的对应关系中,将与该服务器的服务器标识对应的配置信息,作为该服务器对应的配置信息。由此,电子设备可以确定各服务器对应的配置信息。

可选的,至少一种配置信息包括:服务器所属服务器集群的集群标识、服务器中所运行服务的服务标识、服务器所属数据机房的数据机房标识。

可选的,cmdb(configurationmanagementdatabase,配置管理数据库)中可以存储有每个服务器的服务器标识、该服务器所属服务器集群的集群标识、该服务器所属数据机房的数据机房标识、服务器中所运行服务的服务标识等配置信息。电子设备可以通过访问cmdb,获取服务器与至少一种配置信息的对应关系。

步骤103,在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器的第二监控数据。

在实施中,电子设备可以针对每台服务器,在该服务器的第一监控数据中添加与该服务器对应的至少一种配置信息,得到该服务器的第二监控数据。由此,电子设备可以确定各服务器的第二监控数据。

例如,与服务器10.41.48.161对应的配置信息为:服务器所属服务器集群的集群标识为“ads-data-compute-doudian-kafka”、服务器所属数据机房的数据机房标识为“百度窦店”、服务器中所运行服务的服务标识为“kafka”,则电子设备可以在该服务器的第一监控数据中对应添加配置信息,得到该服务器的第二监控数据,各服务器的第二监控数据如表2所示:

表2

本申请实施例中,由于与服务器对应的配置信息的类别为至少一种,因此,电子设备针对每台服务器,在该服务器对应的第一监控数据中,可以添加全部类别的配置信息、也可以根据计算资源的统计需要,添加待统计的一种配置信息或几种配置信息。

步骤104,确定待聚类的配置信息的目标类别。

在实施中,电子设备可以通过多种方式确定待聚类的配置信息的目标类别,在一种可行的实现方式中,电子设备中可以预先设置有聚类规则,电子设备可以确定与聚类规则对应的配置信息的类别,得到待聚类的配置信息的目标类别。

其中,聚类规则可以是按照各服务器所属服务器集群,对各服务器进行聚类,聚类规则也可以是按照各服务器中所运行的服务、各服务器所属服务器集群,对各服务器进行聚类。

在另一种可行的实现方式中,电子设备可以根据接收到的集群运行数据的统计指令,确定待聚类的配置信息的目标类别,具体处理过程后续会进行详细说明。

本申请实施例中,配置信息的目标类别可以是一种,也可以是多种,由此,基于目标类别的数量可以实现对服务器进行一维聚类或多维聚类,即,能够扩展服务器聚类的聚类维度,进一步的,能够扩展运行数据的统计维度。

步骤105,按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据。

其中,同一类别的配置信息的标识可以有多个,以标识该类别配置信息的子分类,例如,配置信息为服务器所属服务器集群的集群标识时,配置信息的标识可以是集群标识jq1、集群标识jq2。

在实施中,电子设备可以在各服务器的第二监控数据中,确定包含相同目标类别的配置信息的标识的第二监控数据,然后,电子设备可以将目标类别的配置信息的标识相同的第二监控数据分类至同一组中,由此,电子设备可以对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据。

例如,配置信息的目标类别为服务器集群、运行服务,目标类别的配置信息的标识可以为:集群标识jq1、集群标识jq2,服务标识kafka、服务标识rabbit。电子设备可以将包含集群标识jq1和服务标识kafka的第二监控数据分类至同一组中,类似的,电子设备可以将包含集群标识jq1和服务标识rabbit的第二监控数据分类至同一组中,并将包含集群标识jq2和服务标识kafka的第二监控数据分类至同一组中,并将包含集群标识jq2和服务标识rabbit的第二监控数据分类至同一组中。由此,电子设备可以实现将目标类别的配置信息的标识相同的第二监控数据分类至同一组中,得到4组第二监控数据。

步骤106,基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

在实施中,针对每组第二监控数据,电子设备可以通过多种方式实现基于该组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据。

在一种可行的实现方式中,电子设备可以计算该组第二监控数据包含的运行数据的和值,得到与该组第二监控数据对应的服务器集群的集群运行数据。

例如,某一组第二监控数据如表2所示,该组第二监控数据包含的运行数据分别为:26661052、26661084、26644051和26698057。电子设备可以计算该组第二监控数据包含的运行数据的和值,得到106,664,244。电子设备可以将106,664,244,作为与该组第二监控数据对应的服务器集群“百度窦店”的集群运行数据。

在另一种可行的实现方式中,在运行数据包括计算资源的使用量的情况下,电子设备可以在计算得到运行数据的和值后,利用运行数据的和值计算资源利用率,将资源利用率作为服务器集群的集群运行数据。具体处理过程后续会进行详细说明。

由此,在基于每组第二监控数据计算该组第二监控数据对应的集群运行数据后,电子设备可以得到各服务器集群的集群运行数据。

本申请实施例中,在每组第二监控数据中,各第二监控数据的所属服务器可以构成一个服务器集群,该服务器集群即为与该组第二监控数据对应的服务器集群。为了便于区分,可以将与单组第二监控数据对应的服务器集群称为聚类服务器集群。

当配置信息的目标类别为服务器集群时,按照服务器集群的集群标识对多个第二监控数据进行聚类,得到的聚类服务器集群即为服务器集群。例如,按照服务器集群的集群标识jq1和集群标识jq2,对多个第二监控数据进行聚类,得到的聚类服务器集群即为服务器集群jq1和服务器集群jq2。

本申请实施例中,电子设备可以获取每台服务器的第一监控数据,第一监控数据包括服务器标识、运行数据;针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;然后,在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器的第二监控数据;然后,确定待聚类的配置信息的目标类别,按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

由于针对每台服务器生成包含配置信息的第二监控数据,并按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,从而实现对服务器集群包含的各服务器的运行数据进行聚类,因此,可以快速计算服务器集群的集群运行数据,提高计算资源的统计效率。

针对相关技术中服务器集群众多,人工方式统计某一服务器集群包含的各服务器的运行数据,存在计算资源的统计方式单一、并且统计效率低的技术问题,采用本申请提供的数据统计方法,不仅可以实现计算资源的快速统计,而且还可以按照配置信息类别的不同对计算资源进行统计,从而实现计算资源的多维度统计。

而且,相关技术中,后台管理人员通过客户端从监控系统处获取的是各服务器某一时段内的运行数据,即离线数据,再基于离线数据统计运行数据。与相关技术相比,采用本申请提供的数据统计方法,能够实时获取各服务器的第一监控数据,便于基于第一监控数据生成第二监控数据,再通过对第二监控数据聚类实现服务器集群的聚类、服务器集群的集群运行数据的统计,从而可以实现计算资源的实时统计。

可选的,本申请实施例提供了一种根据接收到的集群运行数据的统计指令,确定待聚类的配置信息的目标类别的实现方式,具体处理过程包括:

当接收到集群运行数据的统计指令时,获取统计指令携带的待聚类的配置信息的类别标识;将类别标识对应的类别,作为待聚类的配置信息的目标类别。

在实施中,当后台管理人员需要对各服务器集群的计算资源的使用情况进行统计时,后台管理人员可以执行统计操作,以使电子设备接收到集群运行数据的统计指令。其中,统计操作可以是点击电子设备中用于统计集群运行数据的预设图标,统计操作也可以是发出表示统计集群运行数据的语音指令。

在接收到集群运行数据的统计指令后,电子设备可以获取统计指令携带的待聚类的配置信息的类别标识。然后,电子设备可以将类别标识对应的类别,作为待聚类的配置信息的目标类别。

例如,统计指令携带的待聚类的配置信息的类别标识为jq,电子设备可以将类别标识jq对应的类别“服务器集群”,作为待聚类的配置信息的目标类别。

本申请实施例中,电子设备可以在接收到集群运行数据的统计指令时,获取统计指令携带的待聚类的配置信息的类别标识;将类别标识对应的类别,作为待聚类的配置信息的目标类别。由此,便于后续按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,从而能够实现根据不同的统计需求统计集群运行数据。

可选的,在运行数据包括计算资源的使用量的情况下,本申请实施例提供了一种计算集群运行数据的实现方式,如图2所示,具体处理过程包括:

步骤201,针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值。

在实施中,电子设备中可以预先存储有各服务器集群的计算资源总值,电子设备可以针对每组第二监控数据,根据与该组第二监控数据对应的服务器集群的集群标识,获取该服务器集群的计算资源总值。

或者,电子设备中可以预先存储有各服务器的计算资源总值,电子设备可以确定某一组第二监控数据中各第二监控数据的所属服务器,对确定出的服务器的计算资源总值求和,得到与该组第二监控数据对应的服务器集群的计算资源总值。

例如,计算资源总值可以是:i/o接口数为100个,存储容量为300tb。

步骤202,根据该组第二监控数据对应的计算资源的使用量的和值、计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。

在实施中,针对每组第二监控数据,电子设备可以在计算该组第二监控数据包含的计算资源的使用量的和值后,计算该和值与该计算资源总值的比值,得到资源利用率。然后,电子设备可以将资源利用率作为与该组第二监控数据对应的服务器集群的集群运行数据。

例如,针对某一组第二监控数据,电子设备可以计算该组第二监控数据包含的计算资源的使用量的和值得到180tb,电子设备可以计算该和值与计算资源总值300tb的比值,得到资源利用率60%。然后,电子设备可以将资源利用率60%作为与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,电子设备还可以根据该组第二监控数据对应的计算资源的使用量的和值、计算资源总值,计算剩余可使用计算资源,并将剩余可使用计算资源作为集群运行数据。

本申请实施例中,电子设备可以针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值,并根据该组第二监控数据对应的计算资源的使用量的和值、计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。由此,能够丰富集群运行数据的数据内容,便于后台管理人员了解各服务器集群的运行状态,进一步的,利用资源使用率低的空闲服务器集群的计算资源。

可选的,电子设备还可以确定异常服务器集群,并提示异常服务器集群的集群信息,如图3所示,具体处理过程包括:

步骤301,依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果。

在实施中,在确定出各服务器集群的集群运行数据之后,电子设备可以依次将每个服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到与该服务器集群对应的比较结果。

比较结果为该服务器集群的集群运行数据大于集群运行数据阈值,或,该服务器集群的集群运行数据不大于集群运行数据阈值。

例如,电子设备可以将服务器集群jq1的集群运行数据:单日流量20gb与集群运行数据阈值10gb进行比较,确定与服务器集群jq1对应的比较结果为服务器集群jq1的集群运行数据大于集群运行数据阈值,电子设备可以确定服务器集群jq1为目标服务器集群。

步骤302,确定比较结果为预设比较结果的目标服务器集群。

其中,针对不同类别的运行数据,对应的预设比较结果不同,例如,运行数据为流量时,预设比较结果可以是服务器集群的集群运行数据大于集群运行数据阈值;运行数据为占用的i/o接口数量时,预设比较结果可以是服务器集群的集群运行数据不大于集群运行数据阈值。

在实施中,电子设备可以确定运行数据的类别,然后,电子设备可以确定与运行数据的类别对应的预设比较结果。之后,电子设备可以将比较结果为预设比较结果的服务器集群作为目标服务器集群。

步骤303,输出目标服务器集群的集群运行数据和预设比较结果。

在实施中,电子设备可以通过多种方式输出目标服务器集群的集群运行数据和预设比较结果,在一种可行的实现方式中,电子设备可以在预设的显示界面中显示目标服务器集群的集群运行数据和预设比较结果。在另一种可行的实现方式中,电子设备可以向后台管理人员的移动终端发送记录有目标服务器集群的集群运行数据和预设比较结果的提示信息。

本申请实施例中,电子设备可以依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果,然后,确定比较结果为预设比较结果的目标服务器集群,再输出目标服务器集群的集群运行数据和预设比较结果。由于电子设备可以确定比较结果为预设比较结果的目标服务器集群,输出目标服务器集群的集群运行数据和预设比较结果,因此,可以实现服务器集群异常运行情况的即时发现、定位与警示,便于后台管理人员全方位管控各服务器集群的运行状态。

本申请实施例还提供了一种数据统计方法的示例,其中,电子设备中可以包含有标签服务模块和实时数仓模块。

标签服务模块可以包含数据同步单元、配置管理数据库和标签添加单元。数据同步单元可以从监控系统中获取每台服务器的第一监控数据,标签添加单元可以针对每台服务器,查询配置管理数据库,确定该服务器对应的至少一种配置信息,然后,标签添加单元可以在第一监控数据中添加与该服务器对应的至少一种配置信息,得到该服务器的第二监控数据。由此,标签服务模块可以确定各服务器的第二监控数据。

数据同步单元可以由dbio(数据库同步工具)实现,由此,可以实现监控数据获取的实时性和数据完整性。

实时数仓模块可以包含聚类单元、规则库和数据显示单元。规则库中包含多种集群聚类的聚类规则和运行数据的阈值范围。聚类单元可以获取各服务器的第二监控数据,按照规则库中的集群聚类的聚类规则,对各服务器的第二监控数据进行聚类,得到多组第二监控数据。然后,聚类单元可以基于每组第二监控数据,计算服务器集群的集群运行数据,从而计算该服务器集群的集群容量、计算资源使用率等参数。

之后,聚类单元可以将计算得到的服务器集群的集群运行数据和运行数据的阈值范围进行比较,将比较结果为预设比较结果的服务器集群作为目标服务器集群,确定并输出目标服务器集群的集群运行数据。

聚类单元可以由es(elasticesearch,分布式索引框架)实现,由此,可以实现第二监控数据的快速聚类。数据显示单元可以由dashborad(数据可视化模块)实现。

基于上述数据统计处理,在统计各服务器集群的集群运行数据时,后台管理人员无需针对每个服务器集群,一一确定该服务器集群包含的多个服务器、每个服务器的第一监控数据,再对确定出的多个服务器的第一监控数据进行计算。电子设备只需将具有相同集群标识的第二监控数据聚类至同一组中,即可以实现属于同一服务器集群的多个服务器的快速聚合,而且,可以实现服务器集群计算资源的实时统计,特别适于分布式场景下对多个服务器集群进行计算资源的管理。

本申请实施例还提供了一种数据统计装置,如图4所示,所述装置包括:

获取模块410,用于获取每台服务器的第一监控数据,所述第一监控数据包括服务器标识、运行数据;

第一确定模块420,用于针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;

添加模块430,用于在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器对应的第二监控数据;

第二确定模块440,用于确定待聚类的配置信息的目标类别;

聚类模块450,用于按照所述目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;

计算模块460,用于基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

可选的,所述计算模块包括:

计算子模块,用于针对每组第二监控数据,计算该组第二监控数据包含的运行数据的和值,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述计算子模块还用于在所述运行数据包括计算资源的使用量的情况下,针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值;根据该组第二监控数据对应的计算资源的使用量的和值、所述计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述装置还包括:

比较模块,用于依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果;

第三确定模块,用于确定比较结果为预设比较结果的目标服务器集群;

输出模块,用于输出所述目标服务器集群的集群运行数据和所述预设比较结果。

可选的,所述第二确定模块包括:

获取子模块,用于当接收到集群运行数据的统计指令时,获取所述统计指令携带的待聚类的配置信息的类别标识;

确定子模块,用于将所述类别标识对应的类别,作为待聚类的配置信息的目标类别。

可选的,所述至少一种配置信息包括:服务器所属服务器集群的集群标识、服务器中所运行服务的服务标识、服务器所属数据机房的数据机房标识。

本申请实施例提供的上述技术方案与现有技术相比具有如下优点:

本申请实施例提供的该装置,可以获取每台服务器的第一监控数据,第一监控数据包括服务器标识、运行数据;针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;然后,在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器的第二监控数据;然后,确定待聚类的配置信息的目标类别,按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

由于针对每台服务器生成包含配置信息的第二监控数据,并按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,从而实现对服务器集群包含的各服务器的运行数据进行聚类,因此,可以快速计算服务器集群的集群运行数据,提高计算资源的统计效率。

本申请实施例还提供了一种电子设备,如图5所示,包括处理器501、通信接口502、存储器503和通信总线504,其中,处理器501,通信接口502,存储器503通过通信总线504完成相互间的通信,

存储器503,用于存放计算机程序;

处理器501,用于执行存储器503上所存放的程序时,实现如下步骤:

获取每台服务器的第一监控数据,所述第一监控数据包括服务器标识、运行数据;

针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;

在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器对应的第二监控数据;

确定待聚类的配置信息的目标类别;

按照所述目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;

基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

可选的,所述基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据,包括:

针对每组第二监控数据,计算该组第二监控数据包含的运行数据的和值,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述运行数据包括计算资源的使用量,所述方法还包括:

针对每组第二监控数据,获取与该组第二监控数据对应的服务器集群的计算资源总值;

根据该组第二监控数据对应的计算资源的使用量的和值、所述计算资源总值,计算资源利用率,得到与该组第二监控数据对应的服务器集群的集群运行数据。

可选的,所述方法还包括:

依次将各服务器集群的集群运行数据与预设的集群运行数据阈值进行比较,得到比较结果;

确定比较结果为预设比较结果的目标服务器集群;

输出所述目标服务器集群的集群运行数据和所述预设比较结果。

可选的,所述确定待聚类的配置信息的目标类别,包括:

当接收到集群运行数据的统计指令时,获取所述统计指令携带的待聚类的配置信息的类别标识;

将所述类别标识对应的类别,作为待聚类的配置信息的目标类别。

可选的,所述至少一种配置信息包括:服务器所属服务器集群的集群标识、服务器中所运行服务的服务标识、服务器所属数据机房的数据机房标识。

上述终端提到的通信总线可以是外设部件互连标准(peripheralcomponentinterconnect,简称pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,简称eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述终端与其他设备之间的通信。

存储器可以包括随机存取存储器(randomaccessmemory,简称ram),也可以包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,简称cpu)、网络处理器(networkprocessor,简称np)等;还可以是数字信号处理器(digitalsignalprocessing,简称dsp)、专用集成电路(applicationspecificintegratedcircuit,简称asic)、现场可编程门阵列(field-programmablegatearray,简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本申请提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的数据统计方法。

在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的数据统计方法。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质(例如固态硬盘solidstatedisk(ssd))等。

本申请实施例提供的上述技术方案与现有技术相比具有如下优点:

本申请实施例提供的电子设备,可以获取每台服务器的第一监控数据,第一监控数据包括服务器标识、运行数据;针对每台服务器,根据预先存储的服务器与至少一种配置信息的对应关系、该服务器的服务器标识,确定该服务器对应的配置信息;然后,在该服务器的第一监控数据中添加与该服务器对应的配置信息,得到该服务器的第二监控数据;然后,确定待聚类的配置信息的目标类别,按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,得到聚类后的多组第二监控数据;基于每组第二监控数据包含的运行数据,计算与该组第二监控数据对应的服务器集群的集群运行数据,得到各服务器集群的集群运行数据。

由于针对每台服务器生成包含配置信息的第二监控数据,并按照目标类别的配置信息的标识对各服务器的第二监控数据进行聚类,从而实现对服务器集群包含的各服务器的运行数据进行聚类,因此,可以快速计算服务器集群的集群运行数据,提高计算资源的统计效率。

需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅是本发明的具体实施方式,使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1