本发明涉及一种物联网边缘节点机器学习模型自适应优化方法,属于物联网及人工智能。
背景技术:
1、目前在物联网边缘节点中的计算过程与人工智能代理相结合,在水务管理,农业管理,智能制造等多个场景中发挥重要作用。以水务为例,边缘设备可以实时采集和处理水质、流量、压力等数据,人工智能代理则负责更复杂的分析和决策任务。这种结合可以实现实时水质监测和异常预警、精确定位管网泄漏、优化供水调度、提高水泵能效等。在物联网中将边缘计算人工智能技术相的结合,能够有效地提高数据处理速度、降低延迟、增强数据安全性和隐私保护、减少网络带宽和功耗、提高系统可扩展性以及实现智能决策,从而带来巨大的优势和变革性的转变。
2、在物联网设备中应用人工智能模型时,由于边缘节点在计算能力和内存容量方面的限制,传统的基于大数据的模型训练方法已变得不再适用,因此需要一种方法在不明显降低人工智能模型能力的前提下,尽量减小模型尺寸以适应物联网设备的能力限制。同时,由于物联网数据和场景的多样性,需要这种方法能尽量减少人工干预,能够自适应进行优化。
技术实现思路
1、发明要解决的技术问题
2、本发明针对在物联网设备中应用人工智能模型的能力局限性问题,提出一种物联网边缘节点机器学习模型自适应优化方法。
3、技术方案
4、为达到上述目的,本发明提供的技术方案为:
5、一种物联网边缘节点机器学习模型自适应优化方法,包括如下步骤:
6、步骤1,采集物联网设备目标特征时序数据,目标特征数据包括传感器所采温度、湿度、设备状态。
7、步骤2,对所采集数据进行预处理。
8、步骤3,确定步骤2所处理时序数据重要时间窗口,包括以下步骤:
9、步骤3-1,将预处理后的物联网时序数据以固定时间窗口进行分割,
10、步骤3-2,确定各个时间窗口的评分,基于评分确定重要时间窗口。
11、步骤3-3,将评分高于某个设定阈值的窗口作为重要时间窗口,或通过聚类方法将所有时间窗口聚类为重要时间窗口与非重要时间窗口。
12、步骤3-4,将步骤3-3所确定相邻重要时间窗口进行合并。
13、步骤4,构建cnn与rnn神经网络网络模型并在训练集中进行训练得到初始cnn与rnn模型。
14、步骤5,对步骤4所得初始神经网络模型查找卷积核中心所对应的输入时间序列中的位置,确定该卷积核是否位于重要时间窗口。
15、步骤6,基于步骤3所确定重要时间窗口与步骤5确定卷积核中心位置对步骤4初始神经网络模型进行调整,包括cnn模型调整与rnn模型调整。
16、步骤7,基于测试集对调整后的神经网络模型进行重新训练,并测试所训练模型性能。
17、进一步地,步骤2中对数据进行预处理的过程包括:
18、步骤2-1,为不同数据源中与目标特征数据相关的数据建立映射;
19、步骤2-2,对所采数据进行清洗,包括处理缺失数据、检测并修正异常数据、删除重复数据、统一数据格式和单位、将不同来源与类型数据转换为统一格式;
20、步骤2-3,将不同范围数据标准化到同一尺度范围,确保不同来源的数据在同一特征上具有一致的格式和单位。
21、进一步地,步骤3-2中计算每个窗口的小波变换系数与信息增益值作为评分,对小波变换评分与信息增益评分加权求和作为每个时间窗口的综合评分。
22、进一步地,时间窗口小波变换系数评分的计算方法为:
23、步骤3-3-1,对时间序列进行小波变换,得到不同尺度的小波系数;
24、步骤3-3-2,计算所分割每个时间窗口内小波系数的能量值或幅值;
25、步骤3-3-3,将所计算能量值或幅值基于所有窗口对应的极值进行归一化,将该[0,1]之间的值作为该时间窗口评分。
26、进一步地,时间窗口信息增益评分的计算方法为:
27、计算每个时间窗口对目标变量的信息增益g(y,x),并将信息增益值归一化为0-1之间的分数:
28、g(y,x)=h(y)-h(y|x)
29、其中h(y)为目标变量的熵,h(y|x)为目标变量在给定特征x下的条件熵,目标变量y通常指的是希望预测或分类的结果数据,特征x指每个时间窗口内的特征。
30、进一步地,上述条件熵h(y|x)的计算方法为:
31、步骤1)统计目标变量y和时间窗口特征x的联合频数;
32、步骤2)基于统计数量计算联合概率分布p(x=xi,y=yj);
33、步骤3)计算条件概率分布,即在给定时间窗口特征时,目标变量的条件概率p(y=yj|x=xi):
34、
35、步骤4)计算条件熵h(y|x),方法为:
36、
37、进一步地,步骤5中确定卷积核是否位于重要时间窗口的方法为:
38、步骤5-1,通过卷积核大小与步长计算卷积核感受野sen,方法为:
39、sen=ksize+(ksize-1)*(kstep-1)
40、其中ksize为卷积核大小,kstep为卷积核步长。
41、步骤5-2,对于神经网络输出序列的每个位置i计算其对应输入序列的中心位置icenter,方法为:
42、
43、步骤5-3,基于计算感卷积核感受野sen所对应的起始时间索引start和结束时间索引end,方法为:
44、
45、(start,end)即为该卷积核在输入序列中的索引范围,通过该索引判断卷积核是否位于重要时间窗口内
46、进一步地,步骤6中cnn网络模型的调整方法为:根据步骤3所得每个时间窗口的综合评分,减小重要时间窗口对应池化层卷积核尺度;
47、rnn网络模型调整的方法包括以下步骤:
48、步骤6-1,在训练阶段前向传播阶段计算模型损失函数;
49、步骤6-2,在反向传播阶段计算每个时间步隐藏状态对模型损失函数的贡献值;
50、步骤6-3,对贡献值小于某个阈值的时间步减少其对应的隐藏单元数量,减小通过降低该隐藏单元对应隐藏状态权重矩阵的维度来实现。
51、有益效果
52、本发明所采用方法有效地对机器学习模型进行了优化,模型在小巧高效的前提下保持了良好性能,适合在资源受限的物联网边缘设备上运行。
53、本发明方法实施过程中减少了人工干预,能基于输入的时序数据自动优化边缘设备上的人工智能代理模型,有利于物联网边缘设备中人工智能相关方法落地应用。
1.一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,包括如下步骤:
2.如权利要求1所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述步骤s2中对数据进行预处理的过程包括:
3.如权利要求1所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述步骤s3-2中计算每个窗口的小波变换系数与信息增益值作为评分,对小波变换评分与信息增益评分加权求和作为每个时间窗口的综合评分。
4.如权利要求3所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述时间窗口小波变换系数评分的计算方法为:
5.如权利要求3所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述时间窗口信息增益评分的计算方法为:
6.如权利要求5所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述条件熵h(y|x)的计算方法为:
7.如权利要求1所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述步骤s5中确定卷积核是否位于重要时间窗口的方法为:
8.如权利要求1所述的一种物联网边缘节点机器学习模型自适应优化方法,其特征在于,所述步骤s6中cnn网络模型的调整方法为:根据所述步骤s3所得每个时间窗口的综合评分,减小重要时间窗口对应池化层卷积核尺度;