神经网络模型迁移方法和系统、电子设备、程序和介质与流程

文档序号:14836674发布日期:2018-06-30 12:42阅读:来源:国知局
神经网络模型迁移方法和系统、电子设备、程序和介质与流程

技术特征:

1.一种神经网络模型迁移方法,其特征在于,包括:

分别向训练好的第一神经网络模型和一待训练的第二神经网络模型输入相同的待处理对象;其中,所述第二神经网络模型的大小小于所述第一神经网络模型的大小;

获取第一差异和第二差异,其中,所述第一差异为第一神经网络模型的特征层提取的特征与第二神经网络模型的特征层提取的特征之间的差异,所述第二差异为第一神经网络模型的分类层输出的分类结果与第二神经网络模型的分类层输出的分类结果之间的差异;

根据所述第一差异和所述第二差异对所述第二神经网络模型进行网络训练,直至满足预设训练完成条件。

2.根据权利要求1所述的方法,其特征在于,第二神经网络模型的大小小于第一神经网络模型的大小包括:

第二神经网络模型的参数量小于所述第一神经网络模型的参数量;和/或

第二神经网络模型的网络层数小于所述第一神经网络模型的网络层数。

3.根据权利要求1或2所述的方法,其特征在于,所述第一差异为所述第一神经网络模型的最后一特征层提取的特征与所述第二神经网络模型的最后一特征层提取的特征之间的差异。

4.根据权利要求3所述的方法,其特征在于,获取所述第一差异,包括:

获取所述第一神经网络模型的最后一特征层的特征,以及获取所述第二神经网络模型的最后一特征层提取的特征;

通过迁移代价函数层,获取所述第一神经网络模型的最后一特征层提取的特征与所述第二神经网络模型的最后一特征层提取的特征之间的迁移代价函数值,所述第一差异为所述迁移代价函数值。

5.一种神经网络模型迁移系统,其特征在于,包括:训练好的第一神经网络模型和一待训练的第二神经网络模型;其中,所述第二神经网络模型的大小小于所述第一神经网络模型的大小;所述第一神经网络模型包括至少一个特征层、和分类层;所述第二神经网络模型包括至少一个特征层、和分类层;

所述第一神经网络模型,用于接收待处理对象;并输出所述第一神经网络模型的特征层提取的特征和分类层输出的分类结果;

所述第二神经网络模型,用于接收所述待处理对象;并输出所述第二神经网络模型的特征层提取的特征和分类层输出的分类结果;

获取模块,用于获取第一差异和第二差异,其中,所述第一差异为第一神经网络模型的特征层提取的特征与第二神经网络模型的特征层提取的特征之间的差异,所述第二差异为第一神经网络模型的分类层输出的分类结果与第二神经网络模型的分类层输出的分类结果之间的差异;

训练模块,用于根据所述第一差异和所述第二差异对所述第二神经网络模型进行网络训练,直至满足预设训练完成条件。

6.一种电子设备,其特征在于,设置有权利要求5所述的神经网络模型迁移系统。

7.一种电子设备,其特征在于,包括:

处理器和权利要求5所述的神经网络模型迁移系统;

在处理器运行所述神经网络模型迁移系统时,权利要求5所述的神经网络模型迁移系统中的单元被运行。

8.一种电子设备,其特征在于,包括:处理器和存储器;

所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1至4任意一项所述的神经网络模型迁移方法对应的操作。

9.一种计算机程序,包括计算机可读代码,其特征在于,当所述计算机可读代码在设备上运行时,所述设备中的处理器执行用于实现权利要求1至4任意一项所述的神经网络模型迁移方法中各步骤的指令。

10.一种计算机可读存储介质,用于存储计算机可读取的指令,其特征在于,所述指令被执行时实现权利要求1至4任意一项所述的神经网络模型迁移方法中各步骤的操作。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1