一种模型训练方法以及训练设备与流程

文档序号:36826514发布日期:2024-01-26 16:38阅读:来源:国知局

技术特征:

1.一种模型训练方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述第一输入数据包括第一图像,所述第一图像的标签数据包括第二图像,所述第二图像的图像特征与所述第一图像的图像特征相同,所述第一图像的分辨率小于所述第二图像的分辨率,所述第一图像的大小小于所述第二图像的大小,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,所述第二输入数据包括所述第二图像中的目标图像块,所述目标图像块的大小与所述第一图像的大小相同,所述目标图像块与所述第一图像的损失值等于或大于目标阈值。

4.根据权利要求1-3任一项所述的方法,其特征在于,所述第一输入数据包括第一图像,所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述第一输入数据包括第一图像,所述第一图像的标签数据包括第二图像,所述第二图像的图像特征与所述第一图像的图像特征相同,所述第一图像的分辨率小于所述第二图像的分辨率,所述第一图像的大小与所述第二图像的大小相同,所述第二输入数据包括所述第二图像。

6.根据权利要求1-4任一项所述的方法,其特征在于,在将所述第二输入数据输入第一模型之前,所述方法还包括:按照目标操作对所述第二输入数据进行数据增强:

7.根据权利要求6所述的方法,其特征在于,所述目标操作包括图像反色、水平翻转、垂直翻转、顺时针旋转、和/或逆时针旋转中的一种或多种。

8.根据权利要求1所述的方法,其特征在于,所述第一输入数据包括带噪音频,所述带噪音频的标签数据包括所述带噪音频对应的原音音频,所述方法还包括:

9.根据权利要求1-8任一项所述的方法,其特征在于,所述根据所述第一蒸馏损失值更新所述第一模型的参数,包括:

10.根据权利要求1-9任一项所述的方法,其特征在于,所述第一模型包括学生模型,所述第二模型包括所述学生模型对应的教师模型。

11.一种模型训练装置,其特征在于,所述装置包括:

12.一种训练设备,其特征在于,所述训练设备包括:处理器和存储器,所述处理器用于执行存储于所述存储器内的计算机程序以实现权利要求1至10任一所述的方法。

13.一种计算机可读存储介质,其特征在于,包括指令,当所述指令在计算机上运行时,使得所述计算机执行如实现权利要求1至10任一所述的方法。


技术总结
提供了一种模型训练方法训练设备。该方法包括:将第二输入数据输入第一模型,确定第一输出数据,以及将所述第二输入数据输入第二模型,确定第二输出数据,其中,所述第二模型至少基于第一输入数据训练获得,所述第二输入数据基于所述第一输入数据进行处理得到;根据所述第一输出数据和所述第二输出数据确定所述第一模型的第一蒸馏损失值:根据所述第一蒸馏损失值更新所述第一模型的参数。该方法中,将基于第一输入数据得到的第二输入数据作为第一模型和第二模型的输入,根据两个模型的输出更新第一模型的参数,可以使第一模型充分学习第二模型的先验知识,提升第一模型的性能。

技术研发人员:张昀,李卫,李思邈,胡杰,陈汉亭,涂志俊,汪海铃,王云鹤
受保护的技术使用者:华为技术有限公司
技术研发日:
技术公布日:2024/1/25
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1