深度神经网络模型测试方法、系统、设备及存储介质

1.本发明属于机器学习领域，涉及一种深度神经网络模型测试方法、系统、设备及存储介质。


背景技术：

2.随着以深度学习为代表的人工智能技术迅速发展，深度神经网络(dnn)越来越多地应用于自动驾驶、安防监控、医疗辅助等安全相关领域。由于深度神经网络包含输入层、隐藏层、激活函数以及输出层等复杂结构，这导致即使输入数据中产生微小的扰动，即便无法被人类发现的扰动，都很可能导致深度神经网络模型做出错误决策，因此，对深度学习算法和深度神经网络模型进行充分的安全性测试与评估，确保其安全稳定运行至关重要。
3.目前，现有深度神经网络模型测试方法，一般通过大量的测试用例对深度神经网络模型进行测试，以发现深度神经网络模型存在的隐含缺陷。然而，由于运算性能的限制，想要将大量的测试用例通过深度神经网络模型进行预测，需要耗费极大的时间成本和运算成本，导致整个测试周期较长且成本较高。


技术实现要素：

4.本发明的目的在于克服上述现有技术中，深度神经网络模型测试周期较长且成本较高的缺点，提供一种深度神经网络模型测试方法、系统、设备及存储介质。
5.为达到上述目的，本发明采用以下技术方案予以实现：
6.本发明第一方面，提供一种深度神经网络模型测试方法，包括：
7.获取测试图像样本以及测试图像样本的类别，并将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列；
8.根据测试图像样本的类别，通过预设的各类别图像样本的类属逻辑神经元序列，得到测试图像样本的类属逻辑神经元序列；
9.获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级；
10.按照测试图像样本的优先级，进行深度神经网络模型测试。
11.可选的，所述测试图像样本包括原始图像样本和对抗图像样本，其中，对抗图像样本通过利用对抗样本攻击技术攻击原始图像样本得到。
12.可选的，所述将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列包括：
13.将测试图像样本输入至深度神经网络模型中，最大化深度神经网络模型最后一个卷积层内各神经元单元的激活图；
14.计算所述各神经元单元的激活图的平均激活值，并将所述平均激活值大于预设阈值的神经元单元作为激活神经元单元；
15.按照平均激活值从大到小的顺序，选取前预设数量的激活神经元单元，作为测试图像样本的逻辑神经元序列。
16.可选的，所述计算所述各神经元单元的激活图的平均激活值包括：
17.采用全局平均池化操作方法，计算所述各神经元单元的激活图的平均激活值。
18.可选的，还包括获取各类别图像样本的类属逻辑神经元序列并预设；
19.所述获取各类别图像样本的类属逻辑神经元序列包括：
20.获取各类别图像样本的各图像样本；
21.获取当前类别图像样本的各图像样本的逻辑神经元序列；
22.计算当前类别图像样本的各图像样本的逻辑神经元序列中各激活神经元单元对应的激活图像样本数与当前类别图像样本的总图像样本数之间的比例，得到各激活神经元单元的比例指标；
23.按照比例指标从大到小的顺序，选取前预设数量的激活神经元单元，作为当前类别图像样本的类属逻辑神经元序列；
24.遍历各类别图像样本，得到各类别图像样本的类属逻辑神经元序列。
25.可选的，所述获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标包括：
26.获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的余弦相似性系数，作为测试图像样本的相关性指标。
27.可选的，所述根据测试图像样本的相关性指标，确定测试图像样本的优先级包括：
28.当测试图像样本的相关性指标大于预设的第q优先级设定阈值时，则测试图像样本的优先级为第n优先级；其中，q为不小于2的常数。
29.本发明第二方面，提供一种深度神经网络模型测试系统，包括
30.数据获取模块，用于获取测试图像样本以及测试图像样本的类别，并将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列；
31.类属处理模块，用于根据测试图像样本的类别，通过预设的各类别图像样本的类属逻辑神经元序列，得到测试图像样本的类属逻辑神经元序列；
32.优先级确定模块，用于获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级；
33.测试模块，用于按照测试图像样本的优先级，进行深度神经网络模型测试。
34.本发明第三方面，提供一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述深度神经网络模型测试方法的步骤。
35.本发明第四方面，提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述深度神经网络模型测试方法的步骤。
36.与现有技术相比，本发明具有以下有益效果：
37.本发明深度神经网络模型测试方法，通过获取测试图像样本的逻辑神经元序列，然后计算测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试
图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级，进而根据测试图像样本的优先级，进行深度神经网络模型测试，可以通过少量优先级较高的测试图像样本，更早更多地检测出深度神经网络模型存在的隐患，有效提升测试效率，降低测试成本。
附图说明
38.图1为本发明实施例的深度神经网络模型测试方法流程图。
39.图2为本发明实施例的深度神经网络模型测试方法细节流程图。
40.图3为本发明实施例的步骤s11和步骤s12的具体执行流程图。
41.图4为本发明实施例的步骤s15和步骤s16的具体执行流程图。
42.图5为本发明实施例的深度神经网络模型测试系统结构框图。
具体实施方式
43.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
44.需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
45.如背景技术中所介绍的深度神经网络模型测试问题，目前，部分研究组从覆盖指标、鲁棒性指标等多个角度在深度神经网络测试取得进展。有学者通过寻找使一组功能相同dnn模型产生差异行为且达到高神经元覆盖率的测试输入，来联合优化求解白盒差分测试问题。有学者进一步扩展神经元覆盖的概念，引入了3个新的神经元级覆盖标准和2个层级覆盖标准，动态设定多粒度的不同神经元激活阈值，更好反映自然样本与对抗样本之间差异性。有学者借鉴传统软件测试领域mc/dc度量指标，提出符合-符号覆盖、距离-符号覆盖、符号-值覆盖及距离-值覆盖4种指标，来度量相邻层之间神经元激活值差异。有学者借鉴传统软件工程中面向路径的测试方法，提出了一组路径驱动的测试度量指标，将模型中的单一神经元视为节点，将不同层之间的神经元连接视为路径，提出了3种路径覆盖度量。然而，部分研究结果说明现有的测试标准与dnn模型鲁棒性并不存在正相关性，另一方面，现有的测试标准也很少从深度学习任务高层语义角度考虑测试问题，对待不同神经元区分度也不够。
46.另外，借助分析与可视化神经网络模型中隐含层神经元的局部特征，解释深度神经网络模型的预测行为。对于大型的深度神经网络模型而言，人类可理解的概念常常成为
这些深度神经网络模型中的个体潜在变量，而这些深度神经网络模型可以自发学习分离式表征，利用网络分割的方法来评估隐含层和一系列语义概念之间的契合度，从而对深度神经网络模型做出解释。
47.为了改善上述问题，本发明实施例提供了一种深度神经网络模型测试方法，可以有效加快深度神经网络模型的测试速度，更早更多地检测出隐患。
48.下面结合附图对本发明做进一步详细描述：
49.参见图1，本发明一实施例中，提供一种深度神经网络模型测试方法，包括以下步骤：
50.s1：获取测试图像样本以及测试图像样本的类别，并将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列。
51.s2：根据测试图像样本的类别，通过预设的各类别图像样本的类属逻辑神经元序列，得到测试图像样本的类属逻辑神经元序列。
52.s3：获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级。
53.s4：按照测试图像样本的优先级，进行深度神经网络模型测试。
54.综上所述，本发明深度神经网络模型测试方法，通过获取测试图像样本的逻辑神经元序列，然后计算测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级，进而根据测试图像样本的优先级，进行深度神经网络模型测试，可以通过少量优先级较高的测试图像样本，更早更多地检测出深度神经网络模型存在的隐患，有效提升测试效率，降低测试成本。
55.在一种可能的实施方式中，所述测试图像样本包括原始图像样本和对抗图像样本，其中，对抗图像样本通过利用对抗样本攻击技术攻击原始图像样本得到。
56.具体的，可以基于原始图像样本，利用对抗样本攻击技术生成对抗图像样本。然后，将原始图像样本与对抗图像样本按照一定比例组合成为测试样本集。
57.在一种可能的实施方式中，所述将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列包括：将测试图像样本输入至深度神经网络模型中，最大化深度神经网络模型最后一个卷积层内各神经元单元的激活图；计算所述各神经元单元的激活图的平均激活值，并将所述平均激活值大于预设阈值的神经元单元作为激活神经元单元；按照平均激活值从大到小的顺序，选取前预设数量的激活神经元单元，作为测试图像样本的逻辑神经元序列。
58.在一种可能的实施方式中，计算所述各神经元单元的激活图的平均激活值包括：采用全局平均池化操作方法，计算所述各神经元单元的激活图的平均激活值。
59.在一种可能的实施方式中，所述的深度神经网络模型测试方法还包括获取各类别图像样本的类属逻辑神经元序列并预设。
60.其中，所述获取各类别图像样本的类属逻辑神经元序列包括：获取各类别图像样本的各图像样本；获取当前类别图像样本的各图像样本的逻辑神经元序列；计算当前类别图像样本的各图像样本的逻辑神经元序列中各激活神经元单元对应的激活图像样本数与
当前类别图像样本的总图像样本数之间的比例，得到各激活神经元单元的比例指标；按照比例指标从大到小的顺序，选取前预设数量的激活神经元单元，作为当前类别图像样本的类属逻辑神经元序列；遍历各类别图像样本，得到各类别图像样本的类属逻辑神经元序列。
61.在一种可能的实施方式中，所述获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标包括：获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的余弦相似性系数，作为测试图像样本的相关性指标。
62.在一种可能的实施方式中，所述根据测试图像样本的相关性指标，确定测试图像样本的优先级包括：当测试图像样本的相关性指标大于预设的第q优先级设定阈值时，则测试图像样本的优先级为第n优先级；其中，q为不小于2的常数。
63.参见图2，示出了本发明深度神经网络模型测试方法具体实施的详细过程：
64.s11：选定测试图像样本的类别，输入属于该类类别的单个测试图像样本，最大化深度神经网络模型最后一个卷积层所有神经元单元的对应的激活图，以及计算激活图的平均激活值并降序排列；选取前k个神经元单元作为该测试图像样本的逻辑神经元序列。
65.具体的，在训练模型完成深度学习任务时，若给定一个训练样本，经过每一层卷积网络都要与多种卷积核进行作用，输出的反映出被捕捉信息的不同激活情况。随着逐批次训练数据输入模型，卷积核的每个位置中的参数也被逐渐训练并优化。当训练完成后，所有的模型参数包括卷积核就固定了。最大化待测试深度学习模型最后一个卷积层所有神经元单元的对应的激活图，利用全局平均池化操作计算的平均激活值，按照降序进行排列；选取top-k个神经元单元作为该样本的逻辑神经元序列。
66.s12：获取所有测试图像样本的类别，并按照类别进行区分，分别进行s11。
67.具体的，本实施方式中，以cifar10数据集为例，共有10个不同类别，依次是plane(飞机)、car(汽车)、bird(鸟)、cat(猫)、deer(鹿)、dog(狗)、frog(青蛙)、horse(马)、ship(船)和truck(卡车)，把测试图像样本也按照上述10个类别挑选出来而不是混合在一起。
68.s13：对于s12中获得的各个类别下单个图像样本的逻辑神经元序列，再次进行概率统计，以统计结果作为该类别图像样本的类属逻辑神经元序列。
69.具体的，深度学习模型卷积层每个卷积核，对应一个激活图，计算这些激活图的平均值，与预设阈值进行比较，大于阈值说明该神经单元被激活，小于等于该阈值说明该神经单元未被激活。激活的神经单元按照激活值大小进行排序，选择前k个作为该单图像样本的逻辑神经元序列。再循环计算分类任务下某个类别的所有图像样本的逻辑神经元序列，通过统计频率：激活神经单元的图像样本数与图像样本总数之比，排序后，选择前k个作为该类别的类属逻辑神经元序列。
70.s14：获取测试样本集样本，利用对抗样本攻击技术分别生成fgsm/pgd/c&w等对抗样本。原始图像样本与对抗图像样本按照一定比例组合成为若干组测试样本集。其中，对抗算法可以包括pgd20和pgd100，原始图像样本与对抗图像样本的比例可以为2:3。
71.其中，fgsm是一种基于模型梯度信息生成对抗样本的方法，通过最大化损失函数获取对抗样本的算法。pgd将fgsm扩展为迭代的方式寻找扰动，迭代20次即为pgd20，迭代100次即为pgd100。c&w是一种基于优化的攻击算法，核心在于损失函数的映射空间定义与梯度的截断。
72.s15：将测试样本集通过深度神经网络模型，按照s11计算各个测试图像样本的逻辑神经元序列，然后，采用简单的存储技术将中间计算结果-各个测试图像样本的逻辑神经元序列进行保留，方便后续计算比较分析。
73.s16：将s15中的结果与s13的结果进行相似性比较，即两个向量的相似性比较。如果单个样本的逻辑神经元偏离其所属的类逻辑神经元，说明样本受到攻击且容易发生模型预测结果错误，将其放入优先测试队列中；否则，说明样本没有受到对抗攻击模型预测结果正确，不放入优先测试队列中。
74.具体的，前述方法分别得到两组向量，一组是样本集中各个类别的类属逻辑神经元序列，一组是待测试样本集中单个样本的逻辑神经元。每一次比较时其实是两个向量的相似性比较。即循环比较的过程中分别选取一个待测样本逻辑神经元序列和其所属类的逻辑神经元序列，进行相似性计算，如果单个样本的逻辑神经元偏离其所属的类逻辑神经元，说明样本受到攻击且容易发生模型预测结果错误，将其放入优先测试队列中；否则，说明样本没有受到对抗攻击模型预测结果正确，不放入优先测试队列中。
75.s17：循环进行步骤s15与s16；直到所有的测试图像样本全部完成排序。
76.s18：将按照优先级排序的测试图像样本通过深度神经网络模型，计算整个测试过程的apfd值。经过实际应用，与未进行优先级排序或者其他优先级排序的技术(如nc(指神经元覆盖率)/nbc(边界神经元覆盖率)/kmnc(k多节神经元覆盖率))相比，本发明测试方法能够较快并较多地测试出深度神经网络模型存在的隐含缺陷，从而帮助提高模型鲁棒性。
77.具体的，优先级测试队列标记某个测试图像样本的编号，测试过程中编号从小到大依次输入深度神经网络模型进行预测结果。通过使用测试图像样本数量和在这些测试图像样本下可以检测到的错误数量之间的关系来测量深度神经网络模型检测错误的能力，即计算测试过程的apfd值。相比于随机测试图像样本的选择，或者神经元覆盖率度量准则，采用了本发明的优先级设定方法能够提高测试效率，更早更多地检测出深度神经网络模型的隐患。
78.参见图3，以cifar10数据集为例，来演示s11和s12过程的具体执行过程。其中，cifar10数据集的输入为32*32图像，待测试模型为vgg16。
79.当前类别为y＝cat，加载该类别的1000个样本，对于样本x0—32*32像素图片输入进训练完成的模型vgg16，在训练模型完成深度学习任务时，若给定一个训练样本，经过每一层卷积网络都要与多种卷积核进行作用，输出的激活图反映出被捕捉信息的不同激活情况。随着逐批次训练数据输入模型，卷积核的每个位置中的参数也被逐渐训练并优化。当训练完成后，所有的模型参数包括卷积核就固定了。vgg16模型卷积层conv5_3有512个卷积核，对应512个激活图，计算这512张激活图的平均值，分别为u1，u2，...，u512，与超参数阈值进行比较，大于阈值说明该神经单元被激活，小于等于该阈值说明该神经单元未被激活。循环计算类别cat的所有这1000个样本的512个神经单元激活情况，即矩阵1000*512，然后进行总数统计，得到这512个神经单元激活概率值，选择top-7来作为该类cat的逻辑神经元序列，即d＝[281,378,310,321,250,359,219]。
[0080]
参见图3，仍以cifar10数据集为例，来演示s15和s16过程的具体执行过程。其中，计算获得10个类别的类属逻辑神经元序列分别为：
[0081]
plane＝[131,48,299,169,266,18,260,258,149,450]
[0082]
car＝[319,457,53,501,124,88,448,195,269,132]
[0083]
bird＝[74,468,386,62,9,241,288,329,300,99]
[0084]
cat＝[195,337,76,321,378,142,158,113,389,193]
[0085]
deer＝[71,62,345,272,495,253,382,83,361,102]
[0086]
dog＝[93,445,110,454,71,295,367,39,34,285]
[0087]
frog＝[276,347,65,31,326,157,203,116,27,478]
[0088]
horse＝[163,469,20,35,139,374,301,309,230,136]
[0089]
ship＝[8,379,307,18,18,297,114,86,500,510]
[0090]
truck＝[77,320,17,281,36,483,199,511,421,156]
[0091]
为了对所有测试图像样本进行优先级排序，依次计算其单个测试图像样本的逻辑神经元序列，比如测试图像样本x0＝[131,48,299,16,233,18,220,258,149,450]，其所属类为plan，于是计算两个向量的余弦相似性系数，即cos(x0,plan)＝0.7，说明分类是正确的，即没有受到对抗样本攻击，于是排序在后面测试，属于低优先级测试图像样本，而测试图像样本x1＝[18,379,107,76,18,297,114,86,500,510],其所属类别为cat但是计算cos(x1,cat)＝0.1，说明分类是错误的，很可能受到了对抗样本攻击，于是将其排序放在前面优先进行测试，属于高优先级测试图像样本。
[0092]
另外，为了评测使用逻辑度为引导进行测试用例挑选是否可以提高错误检测能力，引入了apfd(平均故障检测百分比)值。这个度量标准可以通过使用测试用例数量和在这些测试用例下能够检测到的错误的数量之间的关系来评测错误检测的能力。apfd值可以在同一标准下度量各种测试用例优先级技术的性能。
[0093]
具体的，假设有一个测试样本集t，其中共有n条测试样本，其中错误集合为f，由所有的错误组成，假设f＝{f1，f2，f3，
…
，fm}，那么f中共有m条错误，t
′
表示测试用例集t根据覆盖率进行测试用例挑选之后的顺序集，用tf∈t
′
表示t
′
中首次检测到错误f的测试用例，t为用例在顺序集中的次序，那么t
′
的apfd值就可以使用如下公式计算：
[0094]
综上所述，本发明深度神经网络模型测试方法，从模型可解释性角度出发，通过将激活概率最高的若干神经单元定义为逻辑神经元，利用对抗图像样本攻击统计不同类的图像样本对应的逻辑神经元在攻击前和攻击后的变化情况，深入分析逻辑神经元技术在鲁棒性分析中有效性。将逻辑神经元技术应用到测试领域的测试用例优先级技术，即按照逻辑神经元相似性指标进行选择排序。
[0095]
同时，为了评估使用逻辑选择引导测试用例是否可以改进错误检测，引入了apfd值，apfd值可以在相同的标准下测量各种测试用例优先级技术的性能。对比不同实验结果，发现相比于随机测试用例选择，采用了逻辑神经元测试标准能够提高测试效率，更早更多地检测出隐患。从测试有效性方面来看，比现有的神经元覆盖准则更能反映与模型鲁棒性的正相关性；从测试用例优先级排序方面来看，其性能已经大幅度超过现有神经元覆盖方法，并接近了最先进的测试用例优先级排序方法的性能。
[0096]
下述为本发明的装置实施例，可以用于执行本发明方法实施例。对于装置实施例中未披露的细节，请参照本发明方法实施例。
[0097]
参见图5，本发明再一实施例中，提供一种深度神经网络模型测试系统，能够用于实现上述的深度神经网络模型测试方法，具体的，该深度神经网络模型测试系统包括数据获取模块、类属处理模块、优先级确定模块以及测试模块。其中，数据获取模块用于获取测试图像样本以及测试图像样本的类别，并将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列；类属处理模块用于根据测试图像样本的类别，通过预设的各类别图像样本的类属逻辑神经元序列，得到测试图像样本的类属逻辑神经元序列；优先级确定模块用于获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标，并根据测试图像样本的相关性指标，确定测试图像样本的优先级；测试模块用于按照测试图像样本的优先级，进行深度神经网络模型测试。
[0098]
在一种可能的实施方式中，所述测试图像样本包括原始图像样本和对抗图像样本，其中，对抗图像样本通过利用对抗样本攻击技术攻击原始图像样本得到。
[0099]
在一种可能的实施方式中，所述将测试图像样本输入至深度神经网络模型中，得到测试图像样本的逻辑神经元序列包括：将测试图像样本输入至深度神经网络模型中，最大化深度神经网络模型最后一个卷积层内各神经元单元的激活图；计算所述各神经元单元的激活图的平均激活值，并将所述平均激活值大于预设阈值的神经元单元作为激活神经元单元；按照平均激活值从大到小的顺序，选取前预设数量的激活神经元单元，作为测试图像样本的逻辑神经元序列。
[0100]
在一种可能的实施方式中，计算所述各神经元单元的激活图的平均激活值包括：采用全局平均池化操作方法，计算所述各神经元单元的激活图的平均激活值。
[0101]
在一种可能的实施方式中，还包括获取各类别图像样本的类属逻辑神经元序列并预设；所述获取各类别图像样本的类属逻辑神经元序列包括：获取各类别图像样本的各图像样本；获取当前类别图像样本的各图像样本的逻辑神经元序列；计算当前类别图像样本的各图像样本的逻辑神经元序列中各激活神经元单元对应的激活图像样本数与当前类别图像样本的总图像样本数之间的比例，得到各激活神经元单元的比例指标；按照比例指标从大到小的顺序，选取前预设数量的激活神经元单元，作为当前类别图像样本的类属逻辑神经元序列；遍历各类别图像样本，得到各类别图像样本的类属逻辑神经元序列。
[0102]
在一种可能的实施方式中，所述获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的相关性，得到测试图像样本的相关性指标包括：获取测试图像样本的逻辑神经元序列与类属逻辑神经元序列之间的余弦相似性系数，作为测试图像样本的相关性指标。
[0103]
在一种可能的实施方式中，所述根据测试图像样本的相关性指标，确定测试图像样本的优先级包括：当测试图像样本的相关性指标大于预设的第q优先级设定阈值时，则测试图像样本的优先级为第n优先级；其中，q为不小于2的常数。
[0104]
前述的深度神经网络模型测试方法的实施例涉及的各步骤的所有相关内容均可以援引到本发明施例中的深度神经网络模型测试系统所对应的功能模块的功能描述，在此不再赘述。本发明实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，另外，在本发明各个实施例中的各功能模块可以集成在一个处理器中，也可以是单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。
[0105]
本发明再一个实施例中，提供了一种计算机设备，该计算机设备包括处理器以及存储器，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器用于执行所述计算机存储介质存储的程序指令。处理器可能是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field-programmable gatearray，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，其是终端的计算核心以及控制核心，其适于实现一条或一条以上指令，具体适于加载并执行计算机存储介质内一条或一条以上指令从而实现相应方法流程或相应功能；本发明实施例所述的处理器可以用于深度神经网络模型测试方法的操作。
[0106]
本发明再一个实施例中，本发明还提供了一种存储介质，具体为计算机可读存储介质(memory)，所述计算机可读存储介质是计算机设备中的记忆设备，用于存放程序和数据。可以理解的是，此处的计算机可读存储介质既可以包括计算机设备中的内置存储介质，当然也可以包括计算机设备所支持的扩展存储介质。计算机可读存储介质提供存储空间，该存储空间存储了终端的操作系统。并且，在该存储空间中还存放了适于被处理器加载并执行的一条或一条以上的指令，这些指令可以是一个或一个以上的计算机程序(包括程序代码)。需要说明的是，此处的计算机可读存储介质可以是高速ram存储器，也可以是非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。可由处理器加载并执行计算机可读存储介质中存放的一条或一条以上指令，以实现上述实施例中有关深度神经网络模型测试方法的相应步骤。
[0107]
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0108]
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0109]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0110]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0111]
最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。