基于预测增量宽度学习的图像识别分类方法与流程

[0001]
本发明涉及图像识别领域，特别涉及一种基于预测增量宽度学习的图像识别分类方法。


背景技术：

[0002]
随着互联网的不断发展，图片逐渐成为传播信息的主要载体，因此对图像的处理至关重要，图像识别技术作为图像处理中的一个重要部分近年来不断发展。机器学习是现在图像识别技术的主要方法，其通过外界的大量数据进行学习更新参数从而进行识别判断。作为目前机器学习的主流，深度学习在图像处理中取得了良好的处理结果，然而深度学习普遍存在着一个共同的问题，就是需要计算的参数多，训练时间长。
[0003]
文献“broad learning system:an effective and efficient incremental learningsystem without the need for deep architecture”提出了一种宽度学习系统。宽度学习系统是基于随机向量函数链接神经网络(rvflnn)和单层前馈神经网络 (slfn)的一种单层增量式神经网络。其相对于深度学习网络层数更少，通过引入增强节点则可在不增加网络纵向深度的前提下增加神经网络模型的非线性拟合能力。这个模型相比于传统的深层网络模型，它在保证一定精度的同时，具有快速、简洁，同时支持增量式的在线模型更新等比较好的性质，其有效地解决了深度学习需要耗费大量时间的问题，同时具有较高的精度。为了提高宽度学习系统识别的准确度需要修改模型中的参数，模型的改变是要通过手动设置各类节点的数量，而通过增加大量增强节点来增加模型的拟合能力又会使增加整个训练时间。


技术实现要素：

[0004]
为了解决上述技术问题，本发明提供一种算法简单、分类精度高的基于预测增量宽度学习的图像识别分类方法。
[0005]
本发明解决上述问题的技术方案是：一种基于预测增量宽度学习的图像识别分类方法，其特征在于，包括以下步骤：
[0006]
步骤一：建立宽度学习模型，输入各类节点初始数量，设置识别准确度；
[0007]
步骤二：通过拟合函数计算需要的增强节点数量；
[0008]
步骤三：增加增强节点数量，进行增量宽度学习；
[0009]
步骤四：判断测试识别准确度是否大于设置识别准确度，若否，则返回步骤三；若是，则输出训练结果与识别准确度。
[0010]
上述基于预测增量宽度学习的图像识别分类方法，所述步骤一中，宽度学习模型的输入层是由两部分组成，分别是映射节点与增强节点，映射节点记为z，增强节点记为h，原始输入记为x；映射节点是通过原始输入x经过线性变换与激活函数输出得到，而增强节点是通过映射节点线性变换与激活函数输出得到，其变换公式如式(1)(2)所示
[0011][0012][0013]
其中w1,β1,w2,β2为自动编码产生的基础上加上稀疏性限制产生而来的数据， w1、w2为随机权重矩阵，β1、β2为随机偏差矩阵，φ为映射节点的激活函数，ξ为增强节点的激活函数，新的输入层即为a＝[z|h]，则宽度学习模型表示为y＝aw，y为输出，权重矩阵w通过岭回归模型的伪逆求得，即利用最小二乘法求解岭回归模型的参数，对w求导，令倒数等于0，求得w的解析解，其中i为m
×
m的单位矩阵，所以说岭回归就是在矩阵a
t
a上加一个λi使得矩阵非奇异进而能对a
t
a+λi求逆，λ为趋于0的一个非负数，其中a
t
为a矩阵的转置，λ＞0，通过确定λ的值使得模型在偏差和方差之间达到平衡，随着λ的增大，模型的方差减小，偏差增大，求得w如(3)所示:
[0014][0015]
上述基于预测增量宽度学习的图像识别分类方法，所述步骤二中，假设给定拟合函数为f(x；a,b,c...)，已知n个测量数据(x1,x2,x3...x
n
)及其对应结果 (y1,y2,y3...y
n
)，最小二乘法是通过将误差平方和最小化来求取设定函数的待定系数，误差平方和s如式(4)所示：
[0016][0017]
其中x
i
表示第i个测量数据，y
i
表示第i个测量数据的对应结果，i＝1,2,3
…
n；对于线性方程，误差平方和s最小，则必有
[0018][0019]
通过式(5)得到一个线性方程组，再求解线性方程组算出待定系数a,b,c...；
[0020]
对于宽度学习，其增强节点的数量与识别准确度之间为非线性关系；若拟合函数为非线性方程，则将非线性方程进行变换转化为线性方程，再应用最小二乘法求得待定系数，最终得到增强节点数量与识别准确度的近似函数，利用近似函数求得设置识别准确度所对应的增强节点数量。
[0021]
上述基于预测增量宽度学习的图像识别分类方法，所述步骤三中，增量宽度学习是将增加的增强节点合并到原来的输入层中，增强层即为原输入层加上通过增量宽度学习的增强节点，由于输入节点数无法改变，则增强层的增强节点越多，其非线性近似能力就越强；输入层即变为[a|ζ(z
e
w3+β3)]，其中w3为随机权重矩阵，β3为随机偏差矩阵，z
e
为增加的增强节点，w3,β3也同为随机生成并通过稀疏自编码得到。
[0022]
本发明的有益效果在于：本发明将宽度学习的部分实验数据通过最小二乘法拟合，通过部分实验数据拟合得出增强节点数量与识别精度之间的关系，通过设置精度可得出满足精度的合适的增强节点数量，避免了人为设置模型参数的繁琐步骤和设置不合适的模型参数导致的训练时间的增加，具有识别精度高、算法简单的优点。
附图说明
[0023]
图1为本发明的流程图。
具体实施方式
[0024]
下面结合附图和实施例对本发明做进一步的说明。
[0025]
如图1所示，一种基于预测增量宽度学习的图像识别分类方法，包括以下步骤：
[0026]
步骤一：建立宽度学习模型，输入各类节点初始数量，设置识别准确度。
[0027]
宽度学习模型的输入层是由两部分组成，分别是映射节点与增强节点，映射节点记为z，增强节点记为h，原始输入记为x；映射节点是通过原始输入x 经过线性变换与激活函数输出得到，而增强节点是通过映射节点线性变换与激活函数输出得到，其变换公式如式(1)(2)所示
[0028][0029][0030]
其中w1,β1,w2,β2为自动编码产生的基础上加上稀疏性限制产生而来的数据， w1、w2为随机权重矩阵，β1、β2为随机偏差矩阵，φ为映射节点的激活函数，ξ为增强节点的激活函数，新的输入层即为a＝[z|h]，则宽度学习模型表示为y＝aw，y为输出，权重矩阵w通过岭回归模型的伪逆求得，即利用最小二乘法求解岭回归模型的参数，对w求导，令倒数等于0，求得w的解析解，其中i为m
×
m的单位矩阵，所以说岭回归就是在矩阵a
t
a上加一个λi使得矩阵非奇异进而能对a
t
a+λi求逆，λ为趋于0的一个非负数，可以根据需要的方差与偏差进行设置，其中a
t
为a矩阵的转置，λ＞0，通过确定λ的值使得模型在偏差和方差之间达到平衡，随着λ的增大，模型的方差减小，偏差增大，求得w如(3)所示:
[0031][0032]
步骤二：通过拟合函数计算需要的增强节点数量。
[0033]
假设给定拟合函数为f(x；a,b,c...)，已知n个测量数据(x1,x2,x3...x
n
)及其对应结果(y1,y2,y3...y
n
)，最小二乘法是通过将误差平方和最小化来求取设定函数的待定系数，误差平方和s如式(4)所示：
[0034][0035]
其中x
i
表示第i个测量数据，y
i
表示第i个测量数据的对应结果，i＝1,2,3
…
n；对于线性方程，误差平方和s最小，则必有
[0036][0037]
通过式(5)得到一个线性方程组，再求解线性方程组算出待定系数a,b,c...；
[0038]
对于宽度学习，其增强节点的数量与识别准确度之间为非线性关系；若拟合函数为非线性方程，再应用最小二乘法求得待定系数，最终得到增强节点数量与识别准确度的
近似函数，利用近似函数求得设置识别准确度所对应的增强节点数量。
[0039]
步骤三：增加增强节点数量，进行增量宽度学习。
[0040]
对于一些情况，当初始的模型拟合能力不够时，可以采用增量宽度学习来提高拟合能力，增量宽度学习是将增加的增强节点合并到原来的输入层中，增强层的增强节点越多，其非线性近似能力就越强；输入层即变为[a|ζ(z
e
w3+β3)]，其中w3为随机权重矩阵，β3为随机偏差矩阵，z
e
为增加的增强节点，w3,β3也同为随机生成并通过稀疏自编码得到。
[0041]
步骤四：判断测试识别准确度是否大于设置识别准确度，若否，则返回步骤三；若是，则输出训练结果与识别准确度。
[0042]
实施例
[0043]
本发明通过使用matlab软件对mnist，fashion-mnist，emnist中的digits 与letters一共4个数据集进行测试。测试结果如下表1-表4所示：
[0044]
表1 mnist
[0045][0046]
表2 fashion mnist
[0047][0048]
表3 emnist letters
[0049][0050][0051]
表4emnist digits
[0052][0053]
对以上4个表格中的数据分析可知，本发明对mnist与emnist digits有着较强的拟合能力，且实测准确度与设置准确度相差不大，并且有着较快的处理速度。对fashion mnist与emnist letters的拟合能力一般，且依旧有着较快的处理速度。总体而言，本发明对于以上4个数据集的拟合效果较优，实测准确基本符合设置准确度，且用时较短。