用于质量监视的监视装置的制作方法

本公开涉及用于定位由设备和/或传输线组成的被监视技术系统中的错误的监视装置和方法。

背景技术：

1、如今，在工业制造中，操作监视和质量监视是由数据驱动的应用执行的，如基于机器学习模型的异常检测。存在高度多样性的制造场景，例如不同的机器类型、数字程序(nc)、制造过程和生产场所等等。此外，大多数制造商的产品系列在不断变化，并且产品制造过程期间所记录的数据也在不断变化。这产生了所谓的冷启动情况，即，每次遇到新的制造场景，例如新的机器、产品或制造过程，与该场景相关的所有数据驱动的应用都必须从头开始开发。更准确地说，必须收集大量数据，例如通过在制造过程期间记录传感器数据，所述传感器数据然后必须由稀缺和昂贵的领域专家进行注释。只有这样，才能开发数据驱动的应用，例如，用于该特定制造场景的异常检测器或用于所生产的工件或检测到的异常的分类器，仅举几个例子。最后，用经注释的数据训练机器学习模型。如果没有达到预期性能，就必须收集和注释更多的数据。在本说明书中，标记或经标记的数据被用作注释或经注释的数据的同义词。

2、利用数据和因此来自不同的先前制造情况的知识，将有助于开发能够快速适应新的未知场景的模型。

3、ruishan liu等人：“teacher-student compression with generativeadversarial networks(利用生成性对抗网络的师生压缩)”，arxiv.org，cornelluniversity library，201olin library cornell university ithaca，ny 14853，2018年12月6日(2018-12-06)，xp081626064公开了一种师生压缩，包括训练学生模型以模仿教师模型的输出。当新数据不可用于压缩任务时，通常会重新使用教师的训练数据，从而导致次优压缩。提出用来自生成性对抗网络的合成数据来扩充压缩数据集，该生成性对抗网络被设计成近似训练数据分布。

4、ep 3705962 a1公开了一种方法，该方法利用来自不同异常检测任务的数据来执行对新遇到的任务的快速适应。在执行例如其他铣削过程时记录的数据用于训练高度适应性的模型。因此，如果来自若干制造场景的数据可用，就可以训练高度适应各种未知制造场景的模型。这将放松冷启动情况，并且因此加速数据驱动的应用的开发。

5、另一方面，数据所有者(例如制造商)不共享或仅在很小程度上共享他们在制造过程中收集的数据，以保护数据隐私性和专门技术。这使得ep 3705962 a1中公开的方法的应用是不可能的，因为它们依赖于从不同的任务(例如制造过程和场景)获得数据。共享的数据子集不一定描述制造过程底层的全部数据分布。

技术实现思路

1、因此，本技术的目的是提供一种监视装置和方法，其加速数据驱动的应用的提供，并且利用来自不同的先前制造情况的数据中包含的知识，而无需访问该数据本身，因此保护数据隐私性。

2、这个目的通过独立权利要求的特征来解决。从属权利要求包含本发明的进一步发展。

3、第一方面涉及一种用于对工业制造的一组预定义制造过程的补充制造过程进行质量监视的监视装置，其包括至少一个处理器，被配置为执行以下步骤：

4、-获得多于一个教师模型，其中每个教师模型是被训练成监视预定义制造过程之一的学习模型，

5、-提供初始学生学习模型和初始生成器学习模型，

6、对于每个教师模型，

7、a)从初始学生学习模型或适应的学生学习模型中复制教师特定学生模型，

8、b)通过最小化教师特定学生模型的输出数据和教师模型的输出数据之间的第一误差来适应教师特定学生模型，其中教师特定学生模型的输出数据和教师模型的输出用由初始或适应的生成器学习模型创建的适应数据样本作为输入来处理，

9、c)计算适应的教师特定学生模型的第一输出数据和教师模型的第二输出数据之间的第二误差，其中适应的教师特定学生模型的第一输出数据和教师模型的第二输出用由初始或适应的生成器模型生成的评估数据样本作为输入数据来处理，

10、d)通过最大化所述第一输出数据和所述第二输出数据之间的统计散度来适应所述生成器学习模型，

11、e)基于所有适应的教师特定学生模型的第二误差适应学生学习模型，并且重复步骤a)至e)，直到适应的学生模型达到预定义质量值，

12、-通过用补充制造过程的经注释的数据训练适应的学生模型，使适应的学生模型定制于补充制造过程，以及

13、-通过使用在补充制造过程期间收集的数据样本作为输入数据来处理定制的学生模型，监视补充制造过程。

14、监视装置生成定制的学生模型，用于对补充制造过程进行质量监视，而无需访问该组预定义制造过程的数据。相反，它只需要一组学习模型，即教师模型，所述学习模型已经被训练来监视预定义制造过程。来自这些教师模型中的每一个的知识被转移并合并到单个学习模型中，所述单个学习模型是适应的学生模型。

15、这不仅通过使用由生成器学习模型生成的适应数据样本基于相应的教师模型迭代地适应每个教师特定学生来实现，而且尤其通过适应生成器学习模型本身来实现。适应的生成器学习模型创建数据样本，其中输出数据，即教师特定学生学习模型和所考虑的教师学习模型的类上的概率分布是最不同的。然后，在由所有生成器学习模型针对所有教师学习模型生成的数据样本上训练学生学习模型，以学习来匹配类上的教师学习模型输出概率分布。

16、适应的学生学习模型已经不仅在监视预定义制造过程中，而且在监视补充制造过程中提供了高性能。适应的学生模型可以容易地仅使用来自新任务的少量数据样本被定制于新任务，即补充制造过程。

17、根据一个实施例，监视装置被配置成使得通过最小化所有第二误差的和来提供学生学习模型的适应。

18、根据一个实施例，监视装置被配置成使得通过随机梯度下降更新规则来执行误差的最小化。

19、随机梯度下降更新规则确保了学生学习模型的高适应性。随机梯度下降更新规则是用于深度网络的快速适应的双层优化方案。

20、根据另外的实施例，监视装置被配置成使得统计差异是kullback-leibler(库尔贝克-莱布勒)散度。

21、根据另外的实施例，监视装置被配置成使得一个公共生成器学习模型被应用于所有教师模型。

22、仅使用一个公共生成器学习模型的监视装置需要较少的处理和存储能力。因此，更多数量的教师学习模型和不同的预定义制造过程可以分别应用于训练适应的学生模式。另一方面，监视装置可以具有中等的处理性能。

23、根据另外的实施例，监视装置被配置成使得公共生成器学习模型针对每个教师学习模型获得关于其所应用于的教师学习模型的信息。

24、这具有以下优点：生成器可以针对每个教师模型产生不同的数据样本。这导致所生成的数据的更高质量，并且因此学生模型的更高性能。

25、根据替代实施例，监视装置被配置成使得针对每个教师学习模型提供单独的生成器学习模型。

26、单独的生成器学习模型学习以生成类似于训练对应教师模型所利用的数据的数据样本。这可以导致所生成的数据的更高质量，尤其是在教师在远程数据分布上训练的情况下，例如来自不同工业的制造过程。所生成的数据的较高质量导致学生学习模型的较高性能。

27、根据另外的实施例，监视装置被配置成使得该组教师学习模型包括不同学习模型架构的教师学习模型。

28、这为监视装置提供了用于适应学生学习模型的教师学习模型的高度灵活性。

29、根据另外的实施例，监视装置被配置为使得对于每个教师学习模型，输入数据具有相同的大小，并且输出数据具有相同的类数量。

30、在图像数据被用作教师学习模型的输入数据的情况下，对于每个教师学习模型，图像大小，即每个图像的像素数必须相同。当输入数据是不同传感器数据的多元时间序列时，测量过程参数，例如钻井工具的钻井周期、扭矩和温度，输入数据的大小是由传感器数据表示的参数的数量。学习模型的输出数据是输入被分类到的一个或多个类的概率分布。用于具有例如三个不同操作模式的过程的异常检测的教师学习模型提供3类的输出数据。

31、根据另外的实施例，监视装置被配置成使得补充制造过程的所收集的数据包含与用于训练教师学习模型的一组预定义制造过程的数据相同的特征。

32、根据另外的实施例，监视装置被配置成使得定制通过随机梯度下降更新规则来执行。

33、这允许适应学生学习模型和定制的学生学习模型的一致处理。可以使用在补充的制造过程期间收集的相同或不同的经注释的数据样本来多次执行定制。

34、根据另外的实施例，监视装置被配置成使得学习模型是神经网络，尤其是深度神经网络。

35、根据另外的实施例，监视装置被配置成使得制造过程是铣削过程，并且补充制造过程的数据是表示铣削过程的传感器数据，尤其是铣削机器中各种轴的扭矩、扭矩的控制偏差、经铣削的工件的图像数据。

36、第二方面涉及一种用于对工业制造的一组预定义制造过程的补充制造过程进行质量监视的方法，包括以下步骤：

37、-获得多于一个教师模型，其中每个教师模型是被训练来监视预定义制造过程之一的学习模型，

38、-提供学生学习模型的初始版本和生成器学习模型的初始版本，对于每个教师模型，

39、a)从学生学习模型的当前版本中复制教师特定学生模型，

40、b)通过最小化教师特定学生模型的输出数据和教师模型的输出数据之间的第一误差来适应教师特定学生模型，其中教师特定学生模型的输出数据和教师模型的输出用由生成器学习模型的当前版本创建的适应数据样本作为输入来处理，

41、c)计算适应的教师特定学生模型的第一输出数据和教师模型的第二输出数据之间的第二误差，其中适应的教师特定学生模型的第一输出数据和教师模型的第二输出用由生成器模型的当前版本创建的评估数据样本作为输入数据来处理，

42、d)通过最大化所述第一输出数据和所述第二输出数据之间的统计散度来适应所述生成器学习模型的当前版本，

43、e)基于所有适应的教师特定学生模型的第二误差，适应学生学习模型的当前版本，以及

44、重复步骤a)到e)，直到适应的学生模型达到预定义质量值，

45、-通过用补充制造过程的经注释的数据训练适应的学生模型，使适应的学生模型定制于补充制造过程，以及

46、-通过使用在补充制造过程期间收集的数据样本作为输入数据来处理定制的学生模型，监视补充制造过程。

47、该方法的另外的实施例提供了由监视装置执行的步骤。

48、第三方面涉及一种可直接加载到数字计算机的内部存储器中的计算机程序产品，包括当所述产品在所述数字计算机上运行时用于执行上述步骤的软件代码部分。

49、简而言之，用于对工业制造的一组预定义制造过程的补充制造过程进行质量监视的方法和监视装置包括至少一个处理器，其被配置为执行以下步骤：

50、-获得(s1)多于一个教师模型，其中每个教师模型是被训练来监视预定义制造过程之一的学习模型，

51、-提供(s2)学生学习模型的初始版本和生成器学习模型的初始版本，

52、-对于每个教师模型，训练(s11)生成器学习模型和教师特定学生模型，以创建其中教师模型和教师特定学生学习模型预测不一致的数据样本，并且基于所有经训练的教师特定学生模型适应学生学习模型的当前版本，

53、-通过用补充制造过程的经注释的数据训练适应的学生模型，使适应的学生模型定制于(s9)补充制造过程，以及

54、-通过使用在补充制造过程期间收集的数据样本作为输入数据来处理定制的学生模型，监视(s10)补充制造过程。