卷积神经网络模型构建方法、系统、装置及可读存储介质与流程

本发明涉及人工神经网络领域，特别涉及一种卷积神经网络模型构建方法、系统、装置及计算机可读存储介质。
背景技术：
卷积神经网络模型中，原始待处理的图像输入到系统中，利用神经元的激活函数来获取待处理图像的局部特征，网络中的每一个神经元都与前一层的局部感受野连接。卷积神经网络中每一个隐含层中的神经元将所提取的图像局部特征映射为一个平面。大多数的识别方法都是通过特征实现的，即在进行图像分类之前，需要提取图像的特征。图像特征提取是图像识别的难点，卷积神经网络可隐式的从待训练的图像数据中学习，不需要显式的提取图像特征，这也是使用卷积神经网络算法进行图像识别时的重要优势之一。隐藏节点数量是影响卷积神经网络结构最重要的因素之一，隐藏特征图决定了网络的隐藏节点个数，隐藏特征图越少，则网络获得的信息就越少，精度越低，收敛速度越慢；反之，隐藏特征图越多，则网络精度越高，但是也会导致网络的训练时间过长，同时也存在过度训练的问题，导致图像识别的效果反而变差。在卷积神经网络的研究与应用过程中，隐藏节点一般是凭借经验来获取，通过构造包含了不同数量隐藏节点的网络结构进行训练，并且将最终效果最好的网络结构来作为最终选择的网络结构，这种方法所构造的网络结构有限，因此难以找到合适的网络结构。因此，需要一种能够构建高效的卷积神经网络模型的方法。技术实现要素：有鉴于此，本发明的目的在于提供一种卷积神经网络模型构建方法、系统、装置及计算机可读存储介质，能够构建高效的卷积神经网络模型。其具体方案如下：一种卷积神经网络模型构建方法，包括：s1：利用目标卷积神经网络模型的参考序列和当前采样层的每个特征图的比较序列，得到当前采样层每个特征图的关联系数；s2：利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度；s3：利用阈值，统计关联度大于等于所述阈值的隐藏节点的数量；s4：将所述数量作为当前采样层的前一卷积层的隐藏节点个数；s5：重复迭代s1至s4，直至当前采样层为第一个采样层；其中，所述参考序列为所述目标卷积神经网络模型的输出，所述比较序列为当前采样层的每个隐藏节点的输出；采样层首次迭代为所述目标卷积神经网络模型中最后一个采样层，按照反向传播方向依次迭代至第一个采样层。可选的，所述利用目标卷积神经网络模型的参考序列和当前采样层的比较序列，得到当前采样层每个特征图的关联系数的过程，包括：利用所述参考序列和所述比较序列，代入关联系数计算公式，得到当前采样层每个特征图的关联系数；其中，所述关联系数计算公式为：式中，ρ(ρ∈[0,1])为关联系数计算过程中的分辨系数，yk表示所述目标卷积神经网络模型的输出，即所述参考序列，ti(k)表示当前采样层的每个隐藏节点的输出，即所述比较序列，ξi(k)表示第i个隐藏节点中第k个特征图的关联系数。可选的，所述利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度的过程，包括：利用每个特征图的关联系数，代入关联度计算公式，得到每个隐藏节点的关联度；其中，所述关联度计算公式为：式中，γi第i个隐藏节点的关联度，n表示样本图像数。可选的，所述阈值为首次迭代得到的当前采样层每个隐藏节点的关联度的平均值。本发明还公开了一种卷积神经网络模型构建系统，包括：关联系数计算模块，用于利用目标卷积神经网络模型的参考序列和当前采样层的每个特征图的比较序列，得到当前采样层每个特征图的关联系数；关联度计算模块，用于利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度；数量统计模块，用于利用阈值，统计关联度大于等于所述阈值的隐藏节点的数量；优化模块，用于将所述数量作为当前采样层的前一卷积层的隐藏节点个数；迭代模块，用于重新调用所述关联系数计算模块，直至当前采样层为第一个采样层；其中，所述参考序列为所述目标卷积神经网络模型的输出，所述比较序列为当前采样层的每个隐藏节点的输出；采样层首次迭代为所述目标卷积神经网络模型中最后一个采样层，按照反向传播方向依次迭代至第一个采样层。可选的，所述关联系数计算模块，具体用于利用所述参考序列和所述比较序列，代入关联系数计算公式，得到当前采样层每个特征图的关联系数；其中，所述关联系数计算公式为：式中，ρ(ρ∈[0,1])为关联系数计算过程中的分辨系数，yk表示所述目标卷积神经网络模型的输出，即所述参考序列，ti(k)表示当前采样层的每个隐藏节点的输出，即所述比较序列，ξi(k)表示第i个隐藏节点中第k个特征图的关联系数。可选的，所述关联度计算模块，具体用于利用每个特征图的关联系数，代入关联度计算公式，得到每个隐藏节点的关联度；其中，所述关联度计算公式为：式中，γi第i个隐藏节点的关联度，n表示样本图像数。本发明还公开了一种卷积神经网络模型构建装置，包括：存储器，用于存储卷积神经网络模型构建程序；处理器，用于执行所述卷积神经网络模型构建程序，以实现如前述的卷积神经网络模型构建方法。本发明还公开了一种计算机可读存储介质，所述计算机可读存储介质上存储有卷积神经网络模型构建程序，所述卷积神经网络模型构建程序被处理器执行时实现如前述卷积神经网络模型构建方法的步骤。本发明中，卷积神经网络模型构建方法，包括：s1：利用目标卷积神经网络模型的参考序列和当前采样层的每个特征图的比较序列，得到当前采样层每个特征图的关联系数；s2：利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度；s3：利用阈值，统计关联度大于等于阈值的隐藏节点的数量；s4：将数量作为当前采样层的前一卷积层的隐藏节点个数；s5：重复迭代s1至s4，直至当前采样层为第一个采样层；其中，参考序列为目标卷积神经网络模型的输出，比较序列为当前采样层的每个隐藏节点的输出；采样层首次迭代为目标卷积神经网络模型中最后一个采样层，按照反向传播方向依次迭代至第一个采样层。本发明利用灰色关联分析法、目标卷积神经网络模型的参考序列和当前采样层每个特征图的比较序列，得到当前采样层每个特征图的关联系数，进而得到与特征图一一对应的每个隐藏节点的关联度，将关联度低于阈值的隐藏节点筛选掉，筛选掉对结果影响小，更容易造成误差的隐藏节点，从而保留精度更高的隐藏节点，得到精准度高的卷积层，从而得到高效的卷积神经网络模型。附图说明为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。图1为本发明实施例公开的一种卷积神经网络模型构建方法流程示意图；图2为本发明实施例公开的一种卷积神经网络模型结构示意图；图3为本发明实施例公开的一种卷积神经网络模型构建系统结构示意图。具体实施方式下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。本发明实施例公开了一种卷积神经网络模型构建方法，参见图1所示，该方法包括：s1：利用目标卷积神经网络模型的参考序列和当前采样层的比较序列，得到当前采样层每个特征图的关联系数；s2：利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度；s3：利用阈值，统计关联度大于等于阈值的隐藏节点的数量；s4：将数量作为当前采样层的前一卷积层的隐藏节点个数；s5：重复迭代s1至s4，直至当前采样层为第一个采样层；其中，参考序列为目标卷积神经网络模型的输出，比较序列为当前采样层的每个隐藏节点的输出；采样层首次迭代为目标卷积神经网络模型中最后一个采样层，按照反向传播方向依次迭代至第一个采样层。具体的，参见图2所示，目标卷积神经网络模型为预先建立的典型的卷积神经网络模型，依次包括输入层r1、多个依次交替的卷积层(c1和c3)和采样层(s2和s4)、全连接层q1和输出层o1；首次对目标卷积神经网络模型进行迭代时，当前采样层为目标卷积神经网络模型中最后一个采样层，即与全连接层连接的采样层，后续迭代过程中，依次按照反向传播方向每次迭代为当前采样层的上一个采样层，直至第一个采样层，例如，目标卷积神经网络模型共有3层采样层，第一采样层至第三采样层，首次对目标卷积神经网络模型进行迭代时，当前采样层为最后一个采样层第三采样层，第二次迭代时，当前采样层为第二采样层，第三次迭代时，当前采样层为第一采样层，同时，由于当前采样层已经为第一个采样层，则终止迭代。具体的，利用灰色关联分析法、参考序列和比较序列，得到不同图像样本下的参考序列和比较序列的关联程度值，即关联系数；对于n个待处理的样本图像，每个隐藏节点就有n个输出，每个特征图的关联系数包括n个系数，为了方便分析，将每个特征图的关联系数集中为一个值，即每个隐藏节点的关联度；利用根据实践经验预先设定或通过关联度计算得到的阈值，将关联度低于阈值的隐藏节点省略，统计关联度大于等于阈值的隐藏节点的数量，将该数量作为当前采样层的前一卷积层的隐藏节点个数，当然，在对隐藏节点省略进行省略前，可以按照降序排列每个隐藏节点的关联度，便于筛选出关联度低于阈值的隐藏节点；同理，通过重复s1至s4，可以逐次优化目标卷积神经网络模型中的卷积层的隐藏节点个数，从而得到在保证精度的情况下，运行性能更好的卷积神经网络模型。可见，本发明实施例利用灰色关联分析法、目标卷积神经网络模型的参考序列和当前采样层每个特征图的比较序列，得到当前采样层每个特征图的关联系数，进而得到与特征图一一对应的每个隐藏节点的关联度，将关联度低于阈值的隐藏节点筛选掉，从而保留精度更高的隐藏节点，得到精准度高的卷积层，从而得到高效的卷积神经网络模型。本发明实施例公开了一种具体的卷积神经网络模型构建方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。具体的：具体的，上述s1利用目标卷积神经网络模型的参考序列和当前采样层的比较序列，得到当前采样层每个特征图的关联系数的过程，可以具体包括：利用参考序列和比较序列，代入关联系数计算公式，得到当前采样层每个特征图的关联系数；其中，关联系数计算公式为：式中，ρ(ρ∈[0,1])为关联系数计算过程中的分辨系数，yk表示目标卷积神经网络模型的输出，即参考序列，ti(k)表示当前采样层的每个隐藏节点的输出，即比较序列，ξi(k)表示第i个隐藏节点中第k个特征图的关联系数。上述s2利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度的过程，可以具体包括：利用每个特征图的关联系数，代入关联度计算公式，得到每个隐藏节点的关联度；其中，关联度计算公式为：式中，γi第i个隐藏节点的关联度，n表示样本图像数。具体的，由于每个隐藏节点有n个输出，每个特征图的关联系数包括n个系数，通过对每个特征图的关联系数求平均，集中为一个值，进而得到每个隐藏节点的关联度。需要说明的是，阈值可以为首次迭代得到的当前采样层每个隐藏节点的关联度的平均值，即，最后的采样层的隐藏节点的关联度的平均值。此外，本发明实施例还公开了一种卷积神经网络模型构建方法的应用场景，具体的：参见图2所示，目标卷积神经网络模型的初始结构设定为：1-10-30-10，即一个输入层r1，第一卷积层c1的隐藏节点数为10个，第二卷积层c3的隐藏节点数为30个，全连接层q1的隐藏节点数包括10个，分辨系数设定为ρ＝0.5，预先通过对卷积神经网络的训练，得到c3和s4层的关联度排序，如表1s4层隐藏节点关联度所示。表1具体的，可以设定阈值为ε＝0.514，选取表1的前18个特征图，并调整目标卷积神经网络模型的结构为1-10-18-10，并对调整后的卷积神经网络模型进行训练，其训练结果如表2调整后s4层隐藏节点关联度所示。表2序号关联度序号关联度序号关联度10.646420.632830.625240.614750.612860.605770.604480.579490.5769100.5747110.5671120.5641130.5601140.5526150.5468160.5344170.5275180.5214如表2所示，所选择的18个特征图对结果影响都较大，即调整的网络结构的调整合理。具体的，在确定c3、s4的特征图个数后，采用同样的方式确定c1、s2层特征图个数，c1、s2层初始关联度排序如表3s2层隐藏节点关联度所示。表3序号关联度序号关联度序号关联度10.666520.665030.663440.643950.641860.639170.634080.633990.6228100.6045具体的，预先选取阈值ε＝0.630，选取表3的前8个特征图，并调整目标卷积神经网络模型的结构为1-8-18-10，并对调整后的目标卷积神经网络模型进行训练，其训练结果如表4调整后s2层隐藏节点关联度所示。表4如表4所示，s2层特征图个数为8个时，每个特征图对结果都有较大的影响，因此最总调整后的目标卷积神经网络模型的结构为1-8-18-10。相应的，本发明实施例还公开了一种卷积神经网络模型构建系统，参见图3所示，该系统包括：关联系数计算模块1，用于利用目标卷积神经网络模型的参考序列和当前采样层的每个特征图的比较序列，得到当前采样层每个特征图的关联系数；关联度计算模块2，用于利用每个特征图的关联系数，得到当前采样层每个隐藏节点的关联度；数量统计模块3，用于利用阈值，统计关联度大于等于阈值的隐藏节点的数量；优化模块4，用于将数量作为当前采样层的前一卷积层的隐藏节点个数；迭代模块5，用于重新调用关联系数计算模块1，直至当前采样层为第一个采样层；其中，参考序列为目标卷积神经网络模型的输出，比较序列为当前采样层的每个隐藏节点的输出；采样层首次迭代为目标卷积神经网络模型中最后一个采样层，按照反向传播方向依次迭代至第一个采样层。可见，本发明实施例利用灰色关联分析法、目标卷积神经网络模型的参考序列和当前采样层每个特征图的比较序列，得到当前采样层每个特征图的关联系数，进而得到与特征图一一对应的每个隐藏节点的关联度，将关联度低于阈值的隐藏节点筛选掉，从而保留精度更高的隐藏节点，得到精准度高的卷积层，从而得到高效的卷积神经网络模型。本发明实施例中，上述关联系数计算模块1，具体用于利用参考序列和比较序列，代入关联系数计算公式，得到当前采样层每个特征图的关联系数；其中，关联系数计算公式为：式中，ρ(ρ∈[0,1])为关联系数计算过程中的分辨系数，yk表示目标卷积神经网络模型的输出，即参考序列，ti(k)表示当前采样层的每个隐藏节点的输出，即比较序列，ξi(k)表示第i个隐藏节点中第k个特征图的关联系数。上述关联度计算模块2，具体用于利用每个特征图的关联系数，代入关联度计算公式，得到每个隐藏节点的关联度；其中，关联度计算公式为：式中，γi第i个隐藏节点的关联度，n表示样本图像数。其中，上述阈值为首次迭代得到的当前采样层每个隐藏节点的关联度的平均值。此外，本发明实施例还公开了一种卷积神经网络模型构建装置，包括：存储器，用于存储卷积神经网络模型构建程序；处理器，用于执行卷积神经网络模型构建程序，以实现如前述的卷积神经网络模型构建方法。关于前述的卷积神经网络模型构建方法的具体步骤，可以参考前述实施例中公开的相应内容，在此不在进行赘述。另外，本发明实施例还公开了一种计算机可读存储介质，计算机可读存储介质上存储有卷积神经网络模型构建程序，卷积神经网络模型构建程序被处理器执行时实现如前述卷积神经网络模型构建方法的步骤。关于前述的卷积神经网络模型构建方法的具体步骤，可以参考前述实施例中公开的相应内容，在此不在进行赘述。最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。以上对本发明所提供的一种卷积神经网络模型构建方法、系统、装置及计算机可读存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。当前第1页12