网络数据的要素归一化方法、装置、设备及存储介质与流程

本发明实施例涉及大数据技术领域，尤其涉及一种网络数据的要素归一化方法、装置、设备及存储介质。

背景技术：

网络大数据原始日志数据通过对象化提取策略进行转换和合并后形成对象与对象关系，对象关系中重要的一类为同一关系，同一关系经过多次扩线形成要素归一化。

现有技术中，由于网络数据存在一定的随意性和不可靠性，且对象提取策略的方案为从单条日志中经过人工分析制定，业务系统经过多次扩线后归一化要素的准确度大大降低。

技术实现要素：

本发明实施例提供一种网络数据的要素归一化方法、装置、设备及存储介质，可以提高要素归一化的准确性。

第一方面，本发明实施例提供了一种网络数据的要素归一化方法，该方法包括：

采用对象化提取策略对原始数据集进行对象关系提取；

根据桥关联策略和/或权重设定策略对所述对象关系进行分析，获得同一关系，所述同一关系包括两对象间关系的权重值；

根据统计权重计算策略对所述同一关系中两对象间关系的权重值进行更新；

根据更新后的同一关系构建关系网，获得要素归一化结果。

进一步地，所述对象关系包括桥关系和过程关系，根据桥关联策略和/或权重设定策略对所述对象关系进行分析，获得同一关系，包括：

对于桥关系，根据桥关联策略中桥属性连接点确定两对象间的同一关系，根据权重设定策略中的桥类别确定两对象间关系的权重值；

对于过程关系，若原始数据集为基础数据集，则根据权重设定策略中的数据来源协议确定同一关系；若原始数据集为源数据集，则根据权重设定策略中的关系类别确定同一关系。

进一步地，根据统计权重计算策略对所述同一关系中两对象间关系的权重值进行更新，包括：

根据所述同一关系中的数据特征确定至少一个统计权重计算模型；

根据所述至少一个统计计算模型对所述同一关系中两对象间关系的权重值进行更新。

进一步地，所述统计权重计算模型包括：激励因子模型、衰减因子模型、惩罚因子模型和加强因子模型。

进一步地，根据更新后的同一关系构建关系网，获得要素归一化结果，包括：

将更新后的同一关系中具有相同对象的划分为一个组，获得至少一个两两关系组；

将至少一个两两关系组中的同一关系分别进行汇聚，获得至少一个星型关系；

将所述至少一个星型关系进行组合构建关系网，获得要素归一化结果。

进一步地，在将所述至少一个星型关系进行组合构建关系网，获得要素归一化结果之后，还包括：

当关系网中任意两个对象间的权重值变化时，直接更新权重值；

当关系网中任意一个对象新增同一关系，且新增同一关系中的另一对象属于另一个关系网时，将两个关系网合并为一个关系网。

进一步地，在采用对象化提取策略对原始数据集进行对象关系提取之前，还包括：

获取满足设定格式的样例数据集；

对所述样例数据集进行分析，获得对象化提取策略、权重设定策略、桥关联策略和统计权重计算策略。

第二方面，本发明实施例还提供了一种网络数据的要素归一化装置，该装置包括：

对象关系提取模块，用于采用对象化提取策略对原始数据集进行对象关系提取；

同一关系获取模块，用于根据桥关联策略和/或权重设定策略对所述对象关系进行分析，获得同一关系，所述同一关系包括两对象间关系的权重值；

权重值更新模块，用于根据统计权重计算策略对所述同一关系中两对象间关系的权重值进行更新；

要素归一化结果获取模块，用于根据更新后的同一关系构建关系网，获得要素归一化结果。

第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例所述的网络数据的要素归一化方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如本发明实施例所述的网络数据的要素归一化方法。

本发明实施例，首先采用对象化提取策略对原始数据集进行对象关系提取，然后根据桥关联策略和/或权重设定策略对对象关系进行分析，获得同一关系，同一关系包括两对象间关系的权重值，再然后根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新，最后根据更新后的同一关系构建关系网，获得要素归一化结果。本发明实施例提供的网络数据的要素归一化方法，在确定了同一关系后，通过统计权重计算策略对两对象关系的权重值进行更新，利用更新后的同一关系进行要素归一化，可以提高要素归一化的准确性。

附图说明

图1是本发明实施例一中的一种网络数据的要素归一化方法的流程图；

图2是本发明实施例一中的根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新的流程图；

图3是本发明实施例一中的一种根据同一关系构建关系网的示例图；

图4是本发明实施例一中的一种更新关系网的示例图；

图5是本发明实施例二中的一种网络数据的要素归一化装置的结构示意图；

图6是本发明实施例三中的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种网络数据的要素归一化方法的流程图，本实施例可适用于对大数据进行元素归一化的情况，该方法可以由网络数据的要素归一化装置来执行，该装置可由硬件和/或软件组成，并一般可集成在具有网络数据的要素归一化功能的设备中，该设备可以是服务器、移动终端或服务器集群等电子设备。如图1所示，该方法具体包括如下步骤：

步骤110，采用对象化提取策略对原始数据集进行对象关系提取。

其中，对象化提取策略可以是对样例数据集进行人工标注形成对象化提取模板后，采用脚本工具将对象化提取模板进行编写的文件。对象化提取策略中规定了在原始数据中要提取的对象以及哪些对象间具有同一关系。对象可以是能够表征元素属性或行为的信息，例如：用户名、微信号、QQ号、手机号、浏览的网页地址等。原始数据集可以包括基础数据集和源数据集。其中，基础数据集可以理解为相对固定(不会改变)的数据，例如：手机号的归属地数据、基站的位置数据等；源数据集可以是随时间变化的数据，例如：浏览的网页地址、搜索的关键字等。

本实施例中，原始数据集是由一条条数据日志组成的，采用对象化提取策略对原始数据集进行对象关系提取的过程可以是，采用对象化提取策略对原始数据集中的每一条数据日志进行分析，提取出所有日志数据中的对象关系。

步骤120，根据桥关联策略和/或权重设定策略对对象关系进行分析，获得同一关系。

其中，同一关系包括两对象间关系的权重值。桥关联策略可以是对样例数据集进行人工标注形成桥关联表后，采用脚本工具将对象化提取模板进行编写的文件。桥关联策略中规定了多个数据表之间的对象关系，通过桥属性连接点将多个数据表间的对象进行关联。权重设定策略可以是对样例数据集进行人工标注形成归一化场景梳理表后，采用脚本工具将归一化场景梳理表进行编写的文件。权重设定策略规定了如何确定对象关系的权重值。

本实施例中，对象关系包括桥关系和过程关系，其中，桥关系是分别来自不同的数据表中的对象的关系，过程关系是来自于同一数据表中的对象的关系。对于桥关系，根据桥关联策略和/或权重设定策略对所述对象关系进行分析，获得同一关系，可通过如下方式实施：根据桥关联策略中桥属性连接点确定两对象间的同一关系，根据权重设定策略中的桥类别确定两对象间关系的权重值。具体的，分别位于两个数据表的两个对象均与同一个桥属性连接点有关联，则这两个对象具有同一关系，然后根据权重设定策略确定桥类别对应的权重值。对于过程关系，根据权重设定策略对所述对象关系进行分析，获得同一关系，可通过如下方式实施：若原始数据集为基础数据集，则根据权重设定策略中的数据来源协议确定同一关系；若原始数据集为源数据集，则根据权重设定策略中的关系类别确定同一关系。具体的，若对象关系中的对象来自于基础数据集，则根据权重设定策略中规定的数据来源协议确定同一关系中两对象间的权重值；若对象关系中的对象来自于源数据集，则根据权重设定策略中规定的关系类别确定同一关系中两对象间的权重值。

步骤130，根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新。

其中，统计权重计算策略可以是对样例数据集进行人工标注形成统计权重分析表后，采用脚本工具将统计权重分析表进行编写的文件。统计权重计算策略中规定了针对同一关系，选择哪一个或哪几个统计权重计算模型对同一关系中两对象间关系的权重值进行更新。

具体的，根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新，可通过如下方式进行：根据同一关系中的数据特征确定至少一个统计权重计算模型，根据至少一个统计计算模型确定权重变化比例，根据权重变化比例对同一关系中两对象间关系的权重值进行更新。

其中，数据特征可以是同一关系的关系类别或者所属的限定场景等。统计权重计算模型包括：激励因子模型、衰减因子模型、惩罚因子模型和加强因子模型。图2是本实施例一中的根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新的流程图。如图2所示，首先确定同一关系所属的数据特征，若是数据特征1，则根据统计计算模型1、统计计算模型2和统计计算模型3确定权重变化比例，若是数据特征2，则根据统计计算模型M确定权重变化比例，若是数据特征n，则根据统计计算模型L和统计计算模型S确定权重变化比例，否则，确定为空模型。空模型可以是理解为不对同一关系中对象间的关系的权重值进行更新或者权重变化比例为1。本实施例中，当根据数据特征确定的统计计算模型有多个时，则将各个统计计算模型计算出的权重变化比例相乘获得最终的权重变化比例。本实施例中，根据权重变化比例对同一关系中两对象间关系的权重值进行更新的方式可以是，将权重变化比例与原权重值相乘获得新的权重值。

本实施例中，激励因子模型的计算公式是：A1＝1+0.2*n/[(C-F)/86400]，其中，A1表示根据激励因子模型计算出的权重变化比例，n表示同一关系累计未出现天数，C表示同一关系最近一次出现的时间(精确到秒)，F表示同一关系第一次出现的时间(精确到秒)。衰减因子模型的计算公式是：A2表示根据衰减因子模型计算出的权重变化比例，m表示衰减下限值(通常取0.5-0.9之间的任意值，优选的选择0.8)，n表示同一关系累计未出现天数。惩罚因子模型的计算公式是A3表示根据惩罚因子模型计算出的权重变化比例，N表示冲突节点个数，表示与同一个对象直接关联的相同类型的对象个数，示例性的，假设微信号与手机号直接具有同一关系，其中，1个微信号与100个手机号具有同一关系，则100为冲突节点个数。加强因子模型是基于同一关系的中的两个对象具有多重关系，即在两个对象之间具有多重边，每条边上有对应的权重值。则计算公式为：A4＝1-(1-P1)*(1-P2)…(1-Pn)，其中，A4表示根据加强因子模型计算出的权重变化比例，Pn表示第n条边的权重值。

步骤140，根据更新后的同一关系构建关系网，获得要素归一化结果。

具体的，根据更新后的同一关系构建关系网，获得要素归一化结果，可通过下述方式实施：将更新后的同一关系中具有相同对象的划分为一个组，获得至少一个两两关系组；将至少一个两两关系组中的同一关系分别进行汇聚，获得至少一个星型关系；将至少一个星型关系进行组合构建关系网，获得要素归一化结果。

示例性的，图3是本发明实施例一中的根据同一关系构建关系网的示例图。如图3所示，ID1、ID2……ID9分别表示9个对象，同一关系边上的值表示权重百分比。第一个两两关系组中的同一关系中都包含对象ID1，第二个两两关系组中的同一关系中都包含对象ID3，第三个两两关系组中的同一关系中都包含对象ID4。汇聚成星型关系后，获三个星型关系，将这三个星型关系进行组合构建关系网，获得要素归一化结果。

可选的，在将至少一个星型关系进行构建关系网，获得要素归一化结果之后，还包括如下步骤：当关系网中任意两个对象间的权重值变化时，直接更新权重值；当关系网中任意一个对象新增同一关系，且新增同一关系中的另一对象属于另一个关系网时，将两个关系网合并为一个关系网。

示例性的，图4为本发明实施例一中的更新关系网的示例图。如图4所示，新增的同一关系为ID3—0.8—ID8，ID3属于其中一个关系网，ID8属于另一个关系网，则将两个关系网合并，并更新关系网的要素。

可选的，在采用对象化提取策略对原始数据集进行对象关系提取之前，还包括如下步骤：获取满足设定格式的样例数据集；对样例数据集进行分析，获得对象化提取策略、权重设定策略、桥关联策略和统计权重计算策略。

具体的，对样例数据集进行人工标注形成对象化提取模板后，采用脚本工具将对象化提取模板进行编写获得对象化提取策略。对样例数据集进行人工标注形成桥关联表后，采用脚本工具将对象化提取模板进行编写获得桥关联策略。对样例数据集进行人工标注形成归一化场景梳理表后，采用脚本工具将归一化场景梳理表进行编写获得权重设定策略。对样例数据集进行人工标注形成统计权重分析表后，采用脚本工具将统计权重分析表进行编写获得统计权重计算策略。

本实施例的技术方案，首先采用对象化提取策略对原始数据集进行对象关系提取，然后根据桥关联策略和/或权重设定策略对对象关系进行分析，获得同一关系，同一关系包括两对象间关系的权重值，再然后根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新，最后根据更新后的同一关系构建关系网，获得要素归一化结果。本发明实施例提供的网络数据的要素归一化方法，在确定了同一关系后，通过统计权重计算策略对两对象关系的权重值进行更新，利用更新后的同一关系进行要素归一化，可以提高要素归一化的准确性。

实施例二

图5为本发明实施例二提供的一种网络数据的要素归一化装置的结构示意图，如图5所示，该装置包括：对象关系提取模块510，同一关系获取模块520，权重值更新模块530和要素归一化结果获取模块540。

对象关系提取模块510，用于采用对象化提取策略对原始数据集进行对象关系提取；

同一关系获取模块520，用于根据桥关联策略和/或权重设定策略对对象关系进行分析，获得同一关系，同一关系包括两对象间关系的权重值；

权重值更新模块530，用于根据统计权重计算策略对同一关系中两对象间关系的权重值进行更新；

要素归一化结果获取模块540，用于根据更新后的同一关系构建关系网，获得要素归一化结果。

可选的，对象关系包括桥关系和过程关系，同一关系获取模块520，还用于：

对于桥关系，根据桥关联策略中桥属性连接点确定两对象间的同一关系，根据权重设定策略中的桥类别确定两对象间关系的权重值；

对于过程关系，若原始数据集为基础数据集，则根据权重设定策略中的数据来源协议确定同一关系；若原始数据集为源数据集，则根据权重设定策略中的关系类别确定同一关系。

可选的，权重值更新模块530，还用于：

根据同一关系中的数据特征确定至少一个统计权重计算模型；

根据至少一个统计计算模型确定权重变化比例；

根据权重变化比例对同一关系中两对象间关系的权重值进行更新。

可选的，统计权重计算模型包括：激励因子模型、衰减因子模型、惩罚因子模型和加强因子模型。

可选的，要素归一化结果获取模块540，还用于：

将更新后的同一关系中具有相同对象的划分为一个组，获得至少一个两两关系组；

将至少一个两两关系组中的同一关系分别进行汇聚，获得至少一个星型关系；

将至少一个星型关系进行组合构建关系网，获得要素归一化结果。

可选的，还包括：关系网更新模块，用于：

当关系网中任意两个对象间的权重值变化时，直接更新权重值；

当关系网中任意一个对象新增同一关系，且新增同一关系中的另一对象属于另一个关系网时，将两个关系网合并为一个关系网。

可选的，还包括：策略获取模块，用于：

获取满足设定格式的样例数据集；

对样例数据集进行分析，获得对象化提取策略、权重设定策略、桥关联策略和统计权重计算策略。

上述装置可执行本发明前述所有实施例所提供的方法，具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明前述所有实施例所提供的方法。

实施例三

图6为本发明实施例三提供的一种计算机设备的结构示意图。图6示出了适于用来实现本发明实施方式的计算机设备612的框图。图6显示的计算机设备612仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。设备612典型的是承担网络数据的要素归一化功能的计算设备。

如图6所示，计算机设备612以通用计算设备的形式表现。计算机设备612的组件可以包括但不限于：一个或者多个处理器616，存储装置628，连接不同系统组件(包括存储装置628和处理器616)的总线618。

总线618表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry Standard Architecture，ISA)总线，微通道体系结构(Micro Channel Architecture，MCA)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。

计算机设备612典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备612访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储装置628可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)630和/或高速缓存存储器632。计算机设备612可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统634可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory，CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线618相连。存储装置628可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块626的程序636，可以存储在例如存储装置628中，这样的程序模块626包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块626通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备612也可以与一个或多个外部设备614(例如键盘、指向设备、摄像头、显示器624等)通信，还可与一个或者多个使得用户能与该计算机设备612交互的设备通信，和/或与使得该计算机设备612能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口622进行。并且，计算机设备612还可以通过网络适配器620与一个或者多个网络(例如局域网(Local Area Network，LAN)，广域网Wide Area Network，WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器620通过总线618与计算机设备612的其它模块通信。应当明白，尽管图中未示出，可以结合计算机设备612使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks，RAID)系统、磁带驱动器以及数据备份存储系统等。

处理器616通过运行存储在存储装置628中的程序，从而执行各种功能应用以及数据处理，例如实现本发明上述实施例所提供的网络数据的要素归一化方法。

实施例四

本发明实施例六还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例所提供的网络数据的要素归一化方法。

当然，本发明实施例所提供的一种计算机可读存储介质，其上存储的计算机程序不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的网络数据的要素归一化方法中的相关操作。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。