本申请涉及数据处理,具体涉及一种基于物联网的数据处理方法、装置、设备及存储介质。
背景技术:
1、随着互联网的不断发展,工业领域也开始广泛应用网络技术。在实际项目中,为了让管理人员能够及时了解工业设备的使用情况,需要将这些设备展示在网页上,并实时显示相关数据。目前已存在一些建模技术,但存在一些问题,例如建模精度不高、适用范围受限,以及无法针对特定专业模型进行建模等。同时,也有一些数据展示技术,例如图表展示,但在展示设备模型生成的大量数据时仍然存在一些问题,例如数据可读性差、理解难度大等。
2、因此,为了能够有效地解决以上问题,需要提供一体化、智能化、可视化的工业物联网设备建模数据处理的方案。
技术实现思路
1、本申请实施例提供一种基于物联网的数据处理方法、装置、系统、设备及存储介质,本申请能够提升数据的可读性和展示效果,降低数据的理解难度。
2、本申请实施例第一方面提供一种基于物联网的数据处理方法,应用于数据处理系统,所述系统包括:感知层、网络层、服务层和应用层;所述方法包括:
3、所述感知层从传感器设备中采集待处理数据,并通过通信网络将所述待处理数据发送给网络层,其中,所述待处理数据包括工业设备产生的实时数据和历史数据;
4、所述网络层接收所述待处理数据,并拦截所述待处理数据中的异常数据;
5、所述服务层处理所述网络层接收的所述待处理数据,对所述待处理数据进行清洗、存储和管理,并对存储后的所述待处理数据进行数据建模,得到建模后的数据;
6、所述应用层对所述建模后的数据进行可视化建模,生成所述待处理数据对应的可视化模型,并将所述可视化模型和所述建模后的数据发送至展示页面进行展示。
7、可选地,所述感知层通过通信网络将所述待处理数据发送给网络层,包括:
8、获取所述待处理数据的传输协议,其中,所述传输协议包括mqtt协议和opc协议;
9、根据所述传输协议,对所述待处理数据进行传输,以将所述待处理数据发送至所述网络层。
10、可选地,所述对所述待处理数据进行清洗、存储和管理,并对存储后的所述待处理数据进行数据建模,得到建模后的数据,包括:
11、对所述待处理数据执行去除异常值、补全缺失数据和数据格式转换的预处理操作操作;
12、将预处理后的待处理数据进行存储;
13、将存储后的待处理数据执行分析和归纳的数据建模操作,得到具有数据关联关系的所述建模后的数据。
14、可选地,所述应用层对所述建模后的数据进行可视化建模,包括:
15、所述应用层的可视化界面根据websocket协议与所述服务层进行通信,接收所述建模后的数据;
16、所述可视化界面对所述建模后的数据执行数据解析、数据转换、数据过滤的可视化建模操作;
17、根据所述websocket协议与所述服务层保持连接,持续监听所述服务层传输的数据是否为实时数据,若是,则对所述建模后的数据进行展示。
18、可选地,所述生成所述待处理数据对应的可视化模型,并将所述可视化模型和所述建模后的数据发送至展示页面进行展示,包括:
19、根据所述可视化建模操作的结果,生成所述待处理数据对应的设备模型;
20、获取构建所述设备模型的图形和界面元素;
21、将所述设备模型的图形和界面元素发送至所述展示页面,以可视化的形式展示所述设备模型。
22、可选地,所述根据所述可视化建模操作的结果,生成所述待处理数据对应的设备模型,包括:
23、对所述预处理后的待处理数据进行特征提取,得到特征数据;
24、对所述特征数据进行标注,得到用于训练初始设备模型的训练数据;
25、根据所述待处理数据的特征,以及处理所述待处理数据的任务需求,确定所述初始设备模型对应的机器学习算法;
26、根据所述训练数据和所述初始设备模型对应的机器学习算法,对所述初始设备模型进行训练,得到训练好的所述设备模型。
27、相应地,本申请实施例第二方面提供一种基于物联网的数据处理装置,所述装置包括:
28、基于物联网的数据处理装置,应用于数据处理系统,所述系统包括:感知层、网络层、服务层和应用层;所述装置包括:感知模块、网络模块、服务模块和应用模块;
29、所述感知模块,用于从传感器设备中采集待处理数据,并通过通信网络将所述待处理数据发送给网络层,其中,所述待处理数据包括工业设备产生的实时数据和历史数据;
30、所述网络模块,用于接收所述待处理数据,并拦截所述待处理数据中的异常数据;
31、所述服务模块,用于处理所述网络层接收的所述待处理数据,对所述待处理数据进行清洗、存储和管理,并对存储后的所述待处理数据进行数据建模,得到建模后的数据;
32、所述应用模块,用于对所述建模后的数据进行可视化建模,生成所述待处理数据对应的可视化模型,并将所述可视化模型和所述建模后的数据发送至展示页面进行展示。
33、本申请实施例第三方面提供的一种设备,包括:处理器、存储介质和总线,存储介质存储有处理器可执行的机器可读指令,当设备运行时,处理器与存储介质之间通过总线通信,处理器执行机器可读指令,以执行时执行如第一方面中提供的方法的步骤。
34、本申请实施例第四方面还提供一种存储介质,该存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如第一方面提供的方法的步骤。
35、由此可知,本申请实施例的方法在处理数据的过程中,可以先通过感知层从传感器设备中采集待处理数据,并将其发送到网络层进行处理,使得数据可以及时处理和分析,以便快速做出决策和采取行动。网络层在接收待处理数据时,能够拦截异常数据,可以帮助识别和排除异常情况,确保数据的准确性和可靠性。服务层对接收到的待处理数据进行清洗、存储和管理,可以去除噪声、重复和冗余数据,并确保数据的完整性和一致性。服务层对存储后的待处理数据进行数据建模,得到建模后的数据,可以通过统计分析、机器学习等方法,从数据中提取有用的信息和模式,为后续的决策和优化提供支持。应用层对建模后的数据进行可视化建模,生成可视化模型,并将其与建模后的数据一起发送到展示页面进行展示,使得数据结果更易于理解和解释,有助于用户对数据进行直观的分析和探索。
36、通过以上几个方面的数据处理操作,本申请能够有效地实现提升数据的可读性和展示效果,并降低数据的理解难度的技术效果。
1.一种基于物联网的数据处理方法,其特征在于,应用于数据处理系统,所述系统包括:感知层、网络层、服务层和应用层;所述方法包括:
2.根据权利要求1所述的数据处理方法,其特征在于,所述感知层通过通信网络将所述待处理数据发送给网络层,包括:
3.根据权利要求1所述的数据处理方法,其特征在于,所述对所述待处理数据进行清洗、存储和管理,并对存储后的所述待处理数据进行数据建模,得到建模后的数据,包括:
4.根据权利要求3所述的数据处理方法,其特征在于,所述应用层对所述建模后的数据进行可视化建模,包括:
5.根据权利要求4所述的数据处理方法,其特征在于,所述生成所述待处理数据对应的可视化模型,并将所述可视化模型和所述建模后的数据发送至展示页面进行展示,包括:
6.根据权利要求5所述的数据处理方法,其特征在于,所述根据所述可视化建模操作的结果,生成所述待处理数据对应的设备模型,包括:
7.一种基于物联网的数据处理装置,其特征在于,应用于数据处理系统,所述系统包括:感知层、网络层、服务层和应用层;所述装置包括:感知模块、网络模块、服务模块和应用模块;
8.根据权利要求7所述的基于物联网的数据处理装置,其特征在于,所述感知模块还具体用于:
9.一种设备,其特征在于,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的程序指令,当设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述程序指令,以执行时执行如权利要求1至6任一所述的方法的步骤。
10.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如权利要求1至6任一所述的方法的步骤。