本发明涉及人工智能,特别涉及一种工业物联网网关中数据处理系统和方法。
背景技术:
1、网关是一种充当转换重任的计算机系统或设备。使用在不同的通信协议、数据格式或语言,甚至体系结构完全不同的两种系统之间,网关是一个翻译器。与网桥只是简单地传达信息不同,网关对收到的信息要重新打包,以适应目的系统的需求。在工业领域中,网关主要作为一个中转站连接于设备和终端之间,用于采集设备运行时的各种数据并将该数据转发至终端,在现有技术中的网关主要用于对数据进行发送和接收。
2、目前关在对数据进行处理时采用的是无差别对待的方式,而工业互联网中的数据存在优先级的区别,这样当网关出现计算能力不足或者数据过载时,优先级高的数据与优先级低的数据仍然会同时处理,这样就影响了高优先级数据传输的时效性,进而影响工业作业进程甚至导致生产意外。
技术实现思路
1、本发明提供一种工业物联网网关中数据处理系统和方法,以解决上述问题。
2、本发明提供一种工业物联网网关中数据处理系统,包括:
3、网关设备模块,用于接收终端设备发送的原始数据集合,计算所述原始数据集合的处理工作量;
4、计算模块,与若干网关设备模块连接,用于当所述原始数据集合的处理工作量超过预设工作量时,根据数据库中预设的数据优先级信息对所述原始数据集合进行分割处理,生成数据包;其中,
5、所述数据包包括即时数据包和延时数据包;
6、数据应用平台模块,用于接收计算模块传输的数据包,并将所述数据包传输至相适配的数据应用平台进行展示和处理。
7、作为本技术方案的一种实施例,所述网关设备模块,包括:
8、采集单元,用于采集多个终端设备的目标数据;
9、解析单元,用于将所述目标数据传输至预设的网关设备,基于所述网关设备中预设的数据格式,对所述目标数据进行数据解析处理,获取原始数据集合;其中,
10、所述目标数据包括数据头部和数据体;
11、预处理单元,用于对所述原始数据集合进行预处理,基于预设的存储数据策略,计算预处理后的原始数据集合的处理工作量;其中,
12、所述预处理至少包括数据清洗处理和数据整理处理。
13、作为本技术方案的一种实施例,所述解析单元,包括:
14、解析子单元,用于对所述目标数据的数据头部进行解析,得到解析后的数据头部和所述目标数据的消息格式类型;其中,
15、所述消息格式类型至少包括可扩展标记语言xml类型、超文本标记语言html类型、文本text类型和javascript对象简谱json类型;
16、获取子单元,用于基于所述目标数据的消息格式类型,获取数据体的解析方式;
17、整合子单元,用于根据所述数据体的解析方式,对所述数据体进行解析,整合所述解析后的数据头部和所述解析后的数据体,获取待处理的原始数据集合。
18、作为本技术方案的一种实施例,所述计算模块,包括:
19、排序单元,用于确定数据包的排序顺序;
20、提取单元,用于基于所述排序顺序,提取预设范围内的数据包,确定目标数据包;
21、计算结果单元,用于计算所述数据包的工作量是否大于预设工作量,确定计算结果;
22、擦除单元,用于当所述计算结果为数据包的工作量超过预设阈值时,确定延时数据包,并对所述延时数据包进行擦除;
23、即时单元,用于当所述计算结果为数据包的工作量未超过预设阈值时,确定即时数据包。
24、本发明提供一种工业物联网网关中数据处理方法,包括:
25、接收终端设备发送的原始数据集合,计算所述原始数据集合的处理工作量;
26、当所述原始数据集合的处理工作量超过预设工作量时,根据数据库中预设的数据优先级信息对所述原始数据集合进行分割处理,生成数据包;其中,
27、所述数据包包括即时数据包和延时数据包;
28、接收计算模块传输的数据包,并将所述数据包传输至相适配的数据应用平台进行展示和处理。
29、作为本技术方案的一种实施例,所述接收终端设备发送的原始数据集合,计算所述原始数据集合的处理工作量,包括:
30、采集多个终端设备的目标数据;
31、将所述目标数据传输至预设的网关设备,基于所述网关设备中预设的数据格式,对所述目标数据进行数据解析处理,获取适配处理模块的原始数据集合;其中,
32、所述目标数据包括数据头部和数据体;
33、对所述原始数据集合进行预处理,基于预设的存储数据策略,计算预处理后的原始数据集合的处理工作量;其中,
34、所述预处理至少包括数据清洗处理和数据整理处理。
35、作为本技术方案的一种实施例,所述将所述目标数据传输至预设的网关设备,基于所述网关设备中预设的数据格式,对所述目标数据进行数据解析处理,获取原始数据集合,包括:
36、对所述目标数据的数据头部进行解析,得到解析后的数据头部和所述目标数据的消息格式类型;其中,
37、所述消息格式类型至少包括可扩展标记语言xml类型、超文本标记语言html类型、文本text类型和javascript对象简谱json类型;
38、基于所述目标数据的消息格式类型,获得数据体的解析方式;
39、根据所述数据体的解析方式,对所述数据体进行解析,整合所述解析后的数据头部和所述解析后的数据体,获取待处理的原始数据集合。
40、作为本技术方案的一种实施例,所述当所述原始数据集合的处理工作量超过预设工作量时,根据数据库中的数据优先级信息对所述原始数据集合进行分割处理,生成数据包,包括:
41、确定数据包的排序顺序;
42、基于所述排序顺序,提取预设范围内的数据包,确定目标数据包;
43、计算所述数据包的工作量是否大于预设工作量,确定计算结果;
44、当所述计算结果为数据包的工作量超过预设阈值时,确定延时数据包,并对所述延时数据包进行擦除;
45、当所述计算结果为数据包的工作量未超过预设阈值时,确定即时数据包。
46、本发明的有益效果如下:通过在工业互联网网关中对原始数据进行分割、提取和定义,在网关出现计算能力不足或者数据过载时,保证优先级高的数据的处理时效性,避免影响工业作业进程。
47、本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。
48、下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
1.一种工业物联网网关中数据处理系统,其特征在于,包括:
2.根据权利要求1所述的一种工业物联网网关中数据处理系统,其特征在于,所述网关设备模块,包括:
3.根据权利要求2所述的一种工业物联网网关中数据处理系统,其特征在于,所述解析单元,包括:
4.根据权利要求1所述的一种工业物联网网关中数据处理系统,其特征在于,所述计算模块,包括:
5.一种工业物联网网关中数据处理方法,其特征在于,包括:
6.根据权利要求5所述的一种工业物联网网关中数据处理方法,其特征在于,所述接收终端设备发送的原始数据集合,计算所述原始数据集合的处理工作量,包括:
7.根据权利要求6所述的一种工业物联网网关中数据处理方法,其特征在于,所述将所述目标数据传输至预设的网关设备,基于所述网关设备中预设的数据格式,对所述目标数据进行数据解析处理,获取原始数据集合,包括:
8.根据权利要求5所述的一种工业物联网网关中数据处理方法,其特征在于,所述当所述原始数据集合的处理工作量超过预设工作量时,根据数据库中的数据优先级信息对所述原始数据集合进行分割处理,生成数据包,包括: