一种基于改进粒子滤波和卷积网络的雕刻机异常检测方法

本发明涉及雕刻机运行异常检测，具体涉及一种基于改进粒子滤波和卷积网络的雕刻机运行数据异常检测方法。

背景技术：

1、目前，雕刻机被广泛应用于模具、烟草、汽车、模型制作、机械加工等行业。随着制造业和网络技术的迅速发展，对雕刻机的安全性能提出了更高要求。一方面，雕刻机系统仍面临着设备失效等传统的功能安全威胁。另一方面，虽然网络技术的应用带来了资源共享、管理便捷等优势，但它打破了雕刻机系统的封闭性，使系统面临着病毒、黑客入侵等信息安全威胁。如果设备在发生异常后得不到及时的检测和维护，严重时会造成系统整体性能异变、设备寿命缩短等后果。异常检测技术可在早期发现异常，以减少或避免事故发生，对切实保障设备的运行安全性、可靠性具有重要意义。

2、一种传统的异常检测方法是通过建立系统正常状态下的模型，以是否显著偏离正常模型为依据进行异常检测。建立系统模型以精确描述系统正常状态下的行为特征，以及建立分类模型以精确区分正常数据和异常数据是该方法的两个重要环节。在建立系统模型的阶段，粒子滤波与期望最大化算法相结合的方法可用于评估模型参数。这种方法能减少观测噪声对状态估计的影响，得到准确的状态估计值，进而在评估模型参数阶段得到更合适的参数以提高系统的模型精度。然而，标准的粒子滤波算法在对某一时刻的变量进行估计时，没有利用未来时刻的观测信息，结果导致滤波精度不足。通过引入前向后向算法能充分利用未来时刻的观测信息提升滤波的精度，但其计算时间会随着粒子数的增加呈二次增长，存在不能设置较大粒子数量的缺陷。

3、在分类器训练阶段，传统基于阈值判断的方法只考虑了单个时间点的残差信息，不能充分挖掘残差数据在时间维度的相关性，难以处理特定工况的上下文异常。通常，雕刻任务的时间序列数据中某个点的数值从孤立的角度看在正常的范围内，不能单独构成一个异常，而当给定该点周围其他点的数值作为上下文环境时，该点是对这一环境下正常状况的偏离，由此构成了上下文异常。上下文环境能反映设备运行工况等关键信息，而传统基于阈值判断的方法难以利用这些上下文信息以提升运行数据异常检测的精度。

4、针对上述方法存在的不足，本发明提出了一种基于改进粒子滤波和卷积神经网络的雕刻机异常检测方法。通过改进的粒子滤波算法与期望最大化算法相结合的方法评估模型参数，使得算法在融合更多的观测信息以提升滤波精度的同时，克服了计算时间随粒子数呈二次增长的缺陷。此外，通过训练残差神经网络以充分挖掘数据在时间维度的相关性，能提取隐含的关联特征并用于分类器训练，得到精确区分正常数据和异常数据的二分类模型，提高异常检测的精度。

技术实现思路

1、为了克服现有技术存在的缺点，本发明提出了一种基于改进粒子滤波和卷积网络的雕刻机异常检测方法。在评估模型参数阶段，使用改进的粒子滤波算法以精确估计系统状态变量，不仅提升了滤波精度，而且克服了计算时间随粒子数呈二次增长的缺陷；然后使用期望最大化算法迭代更新模型参数，得到精确的雕刻机系统数学模型。在决策阶段，使用一维残差卷积神经网络，充分挖掘数据在时间维度的相关性，实现更精确、可靠的异常检测。

2、本发明解决其技术问题所采用的技术方案是：

3、一种基于改进粒子滤波和卷积神经网络的雕刻机运行数据异常检测方法，在离线训练阶段，使用改进粒子滤波算法和期望最大化算法相结合的方法迭代更新雕刻机系统数学模型的参数，并以粒子滤波后的噪声估计值序列作为输入，使用一维残差卷积训练异常检测分类器，

4、方法步骤如下：

5、1)采集雕刻机系统正常工况下的运行数据，其中时间序列长度l、输入数据观测数据

6、2)确定雕刻机系统正常工况下的数学模型结构并初始化参数；

7、3)对于正常工况下的数据，使用改进粒子滤波算法得到各时刻的状态变量的估计值序列

8、4)使用步骤3)所述算法得到的状态变量估计值序列，训练雕刻机系统正常工况下的数学模型；

9、5)采集雕刻机系统正常工况和异常工况的数据，并进行分类器离线训练，得到能够区分正常数据和异常数据的二分类模型；

10、6)使用步骤4)得到系统的数学模型对待检测的雕刻机运行数据进行粒子滤波，计算得到噪声的估计值，然后使用步骤5)得到的分类模型区分正常数据和异常数据。

11、进一步的，步骤2)所述的雕刻机系统正常工况下系统的数学模型结构并初始化参数，具体实现步骤如下：

12、2.1)确定雕刻机状态变量的单步预测模型，

13、xt+1＝f(xt,ut)+qt,  t＝1,2,…,l (1)

14、其中，f(xt,ut)表示无噪声情况下雕刻机状态变量的单步预测函数，其形式根据具体情况而定，如f(xt,ut)＝axt+but，其中a、b为系数矩阵，且数值待辨识，xt表示雕刻机在t时刻的状态变量，qt为服从均值为0，协方差矩阵为q的高斯分布的系统噪声，且q非主对角线上元素为0；

15、2.2)确定雕刻机状态变量的观测模型，

16、yt＝h(xt,ut)+rt,  t＝1,2,…,l (2)

17、其中，h(xt,ut)表示无噪声情况下雕刻机的状态变量观测函数，其形式根据具体情况而定，如h(xt,ut)＝cxt+dut，其中c、d为系数矩阵，且数值待辨识，yt表示雕刻机在t时刻的观测值，rt为服从均值为0，协方差矩阵为r的高斯分布的观测噪声，且r非主对角线上元素为0；

18、2.3)根据先验知识设置q、r和x1初始值。

19、进一步的，所述改进粒子滤波算法，计算粒子权重时使用了一种计算时间随粒子数增加只呈线性增长的方法以融合未来时刻的观测信息，且在存储粒子的祖先粒子信息时使用了循环数组以提升计算效率，

20、步骤3)所述的使用改进粒子滤波算法得到各时刻状态变量的估计值序列具体实现步骤如下：

21、3.1)设粒子数为n，在t时刻第i个粒子的值为权重为在t＝1的时刻，所有粒子的初始值权重

22、3.2)对于t＝2,3,…,l，依次执行下列步骤：

23、3.2.1)在t时刻采样得到每个粒子的值

24、

25、表示在的条件下t时刻状态变量的概率分布，为t-1时刻经过重采样后的第i个粒子的值，且令

26、3.2.2)根据观测值更新权重，设t时刻的观测值为yt，由于粒子初始权重以及重采样后权重均为1/n，计算时可不考虑前一时刻粒子的权重，得到t时刻上标为i粒子的权重

27、

28、其中为在观测到yt的情况下，粒子值为的概率；

29、3.2.3)保存当前时刻的粒子权重和当前时刻的粒子值；

30、3.2.4)使用标准的重采样方法生成新的粒子群体；设重采样前的第i个旧粒子为通过重采样后的第j个新粒子为若是由复制而来，则称是的祖先粒子，且的所有祖先粒子也是的祖先粒子；此外，若t1时刻的一个粒子是的祖先粒子，称其为在t1时刻的祖先；

31、3.2.5)对重采样后的每个粒子时使用一个长度为lstep的循环数组保存其在t,t-1,……,max(1,t-lstep+1)时刻祖先的上标信息，每次重采样后，新粒子复制其旧粒子的循环数组，然后将数组中第(t-2)％lstep个值赋值为重采样前旧粒子pt(i)的上标i，即可获得新粒子的循环数组；

32、3.3)后向更新粒子权重，设后向更新的步长为lstep，对于t＝lstep+1,lstep+2,…,l，进行如下操作：

33、根据t时刻粒子的权重后向更新其t-lstep时刻的祖先的权重，设后向更新后得到的权重为

34、

35、fj(t)表示t时刻上标为j的粒子在t-lstep时刻的祖先粒子的上标，如果某个粒子不是lstep时间后任何粒子的祖先，那么其权重为0；

36、3.4)对于t＝1,2,…,lstep，令

37、3.5)根据每个时刻的粒子值和权重，得到状态变量的估计值，

38、

39、其中为t时刻状态变量的估计值；

40、进一步的，改进粒子滤波算法结合期望最大化算法，得到一种改进粒子滤波算法与期望最大化算法相结合的训练模型参数的方法，进行模型的预训练后，使用改进粒子滤波算法得到系统状态变量估计值，并使用期望最大化算法不断迭代更新模型参数；

41、步骤4)所述的训练雕刻机正常工况下的数学模型，具体实现步骤如下：

42、4.1)对单步预测模型参数进行预训练，对于步骤3)得到的各时刻状态变量的估计值序列设置如公式(7)的损失函数，

43、

44、使用梯度下降法迭代更新状态变量单步预测模型参数并作为步骤4.2)的初始值；

45、4.2)使用改进粒子滤波算法与期望最大化算法相结合的方法更新模型参数，用梯度下降法更新单步预测模型、状态变量观测模型、过程噪声方差q、观测噪声方差r，每次计算梯度前按照步骤3)进行一次粒子滤波，更新状态变量的估计值序列损失函数如公式(8)，

46、

47、其中dx为变量x的维数，其中dy为变量y的维数，为第t+1时刻状态变量估计值的第d维的数据，为的第d维的数据，qd为第d维的过程噪声的方差，yt,d为第t时刻观测值的第j维的数据，为的第j维数据，rd为第d维的过程噪声的方差。

48、进一步的，上述步骤5)所述的进行离线训练得到区分正常数据和异常数据的二分类模型，具体实现步骤如下：

49、5.1)将步骤1)采集到的雕刻机运行于正常状态和异常状态的数据划分训练集和测试集，每个样本为一段连续时间内的传感器时序数据，以该段时间内是否存在异常数据作为分类标签；

50、5.2)使用步骤3)所述改进粒子滤波算法，处理训练集数据，得到状态变量的估计值，根据公式(1)、公式(2)得到过程噪声估计值的序列和观测噪声估计序列

51、5.3)将步骤5.2)得到的噪声序列作为输入，使用一维残差卷积网络训练二分类模型。

52、进一步地，上述步骤6)所述的得到能够区分正常数据和异常数据的二分类模型，具体实现步骤如下：

53、6.1)采集雕刻机的输入数据和观测数据；

54、6.2)对采集到的数据使用步骤4)得到的模型进行步骤3)所述的改进粒子滤波算法，得到噪声估计值的序列；

55、6.3)利用步骤5)得到的残差卷积网络判断步骤6.2)得到的序列是否处于异常状态。

56、本发明方法具有以下优点：

57、1)较于标准的粒子滤波方法，在对某一时刻的状态进行估计时能够融合未来时刻的信息，得到了更准确的滤波结果；

58、2)降低了计算的时间复杂度，避免了计算时间随粒子数提升而二次增长的情况，可以为粒子滤波设置较大粒子数；

59、3)使用了一维残差卷积网络判断异常，能够挖掘数据在时间维度的相关性，同时不局限于单点信息，提高了分类器精度。