用于训练神经网络的方法和装置以及神经网络系统与流程

文档序号:26394203发布日期:2021-08-24 16:03阅读:来源:国知局

技术特征:

1.一种神经网络训练方法,包括:

使用基于训练数据训练的神经网络提取针对第一数据的注释数据和第一可靠性值;

基于具有大于或等于阈值的第二可靠性值的第二数据,从所述第一数据之中选择所述第二数据;

基于所述第二数据扩展所述训练数据;以及

基于经过扩展的训练数据对所述神经网络进行再训练。

2.根据权利要求1所述的神经网络训练方法,其中,所述注释数据包括关于对所述第一数据进行推断的结果的信息。

3.根据权利要求1所述的神经网络训练方法,其中,扩展所述训练数据包括:

通过使用多种方法转换所述第二数据来生成与所述第二数据具有相同的注释数据的第三数据;以及

将与所述第三数据中的至少一些相对应的第四数据添加到所述训练数据中。

4.根据权利要求3所述的神经网络训练方法,其中,将所述第四数据添加到所述训练数据中包括:

提取针对所述第三数据的第三可靠性值;

基于具有大于或等于参考值的第四可靠性值的第四数据,从所述第三数据之中选择所述第四数据;以及

将所述第四数据添加到所述训练数据中。

5.根据权利要求4所述的神经网络训练方法,其中,选择所述第四数据包括:选择与相对于所述训练数据的数量设置的比率相对应的第四数据的数量。

6.根据权利要求4所述的神经网络训练方法,其中,选择所述第四数据包括:基于可靠性分布从所述第三数据之中选择所述第四数据。

7.根据权利要求1所述的神经网络训练方法,还包括:

测量经过再训练的神经网络的性能;

当经过再训练的神经网络的性能低于参考水平时,调整所述阈值;以及

基于调整后的阈值从所述第一数据之中重新选择所述第二数据。

8.根据权利要求1所述的神经网络训练方法,还包括:

确定是否满足用于完成训练的条件;

当满足所述条件时,输出经过再训练的神经网络;以及

当不满足所述条件时,提取附加的注释数据和附加的可靠性值。

9.根据权利要求8所述的神经网络训练方法,其中,确定是否满足用于完成所述训练的条件包括:当经过扩展的训练数据的数量大于或等于设置数量时,确定满足所述条件。

10.根据权利要求8所述的神经网络训练方法,其中,确定是否满足用于完成所述训练的条件包括:当经过再训练的神经网络的性能大于或等于参考水平时,确定满足所述条件。

11.一种神经网络训练装置,包括:

存储器,其存储一个或多个指令;以及

至少一个处理器,其被配置为执行存储在所述存储器中的所述一个或多个指令,以:

通过用基于初始训练数据训练的神经网络对收集数据执行推断来提取针对所述收集数据的注释数据;

基于所述收集数据之中的可靠性大于或等于阈值的参考数据添加训练数据;以及

基于添加的训练数据和所述初始训练数据对所述神经网络进行再训练。

12.根据权利要求11所述的神经网络训练装置,其中,所述至少一个处理器还被配置为执行所述一个或多个指令,以:

基于多种处理方法中的每一种处理所述参考数据以产生所述参考数据的多个处理版本;

将所述参考数据的所述多个处理版本之中的可靠性大于或等于参考值的数据添加为所述训练数据。

13.根据权利要求12所述的神经网络训练装置,其中,所述至少一个处理器还被配置为执行所述一个或多个指令,以基于大于或等于所述参考值的可靠性从所述参考数据的所述多个处理版本之中选择要被添加为所述训练数据的数据,使得要被添加的数据的数量满足参考数量,所述参考数量是针对大于或等于所述参考值的多个可靠性范围中的每一个设置的。

14.根据权利要求11所述的神经网络训练装置,其中,所述至少一个处理器还被配置为执行所述一个或多个指令,以添加与所述添加的训练数据的数量和所述初始训练数据的数量的预设比率相对应的训练数据的数量。

15.根据权利要求14所述的神经网络训练装置,其中,所述预设比率大于0但小于或等于1。

16.根据权利要求14所述的神经网络训练装置,其中,所述至少一个处理器还被配置为执行所述一个或多个指令,以重复:提取针对所述训练数据的注释数据、添加所述训练数据以及再训练,直到所添加的训练数据的数量达到设置的数量为止或直到经过再训练的神经网络的性能达到预设的参考水平为止。

17.根据权利要求11所述的神经网络训练装置,其中,所述至少一个处理器包括至少一个加速器,其被配置为在所述推断和所述再训练期间执行所述神经网络的计算。

18.根据权利要求11所述的神经网络训练装置,所述神经网络训练装置被设置在应用处理器、数据服务器和高级驾驶员辅助系统中的至少一个中。

19.一种神经网络系统,包括:

学习模块,其被配置为处理收集数据以产生注释数据,通过基于所述注释数据的可靠性将所述收集数据的处理版本选择性地添加到训练数据库中来扩展所述训练数据库,并且基于经过扩展的训练数据库对神经网络进行再训练;以及

数据识别模块,其被配置为通过基于经过再训练的神经网络对输入数据执行推断来提取针对所述输入数据的识别信息。

20.根据权利要求19所述的神经网络系统,其中,所述学习模块还被配置为:

使用基于所述训练数据库训练的初始神经网络从所述收集数据中提取所述注释数据并用所述注释数据标记所述收集数据;

从标记后的数据之中选择可靠性大于或等于阈值的数据,并对所选择的数据进行转换;以及

将所选择的数据的至少一个转换版本添加到所述训练数据库中。


技术总结
本公开涉及神经网络训练。该神经网络训练涉及训练方法、训练装置和包括神经网络的系统。该神经网络训练包括:使用基于训练数据训练的神经网络提取针对第一数据的注释数据和第一可靠性值,基于具有大于或等于阈值的第二可靠性值的第二数据从第一数据之中选择第二数据,基于第二数据扩展训练数据,以及基于经过扩展的训练数据对神经网络进行再训练。

技术研发人员:金炳秀;金冏荣;金哉坤;李昶权;河相赫
受保护的技术使用者:三星电子株式会社
技术研发日:2021.02.18
技术公布日:2021.08.24
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1