基于排序约束的文本生成模型的迁移训练方法和装置

文档序号:40814650发布日期:2025-01-29 02:29阅读:来源:国知局

技术特征:

1.一种基于排序约束的文本生成模型的迁移训练方法,其特征在于,包括:

2.根据权利要求1所述的基于排序约束的文本生成模型的迁移训练方法,其特征在于,所述计算所述第一预测分布输出和所述第二预测分布输出之间的排序损失和蒸馏损失,包括:

3.根据权利要求2所述的基于排序约束的文本生成模型的迁移训练方法,其特征在于,所述排序损失的目标函数为:

4.根据权利要求1所述的基于排序约束的文本生成模型的迁移训练方法,其特征在于,所述将所述排序损失和所述蒸馏损失融合得到混合损失,包括:

5.根据权利要求1所述的基于排序约束的文本生成模型的迁移训练方法,其特征在于,所述获取训练数据之后,所述方法还包括:

6.一种基于排序约束的文本生成模型的迁移训练装置,其特征在于,包括:获取模块和处理模块;

7.根据权利要求6所述的基于排序约束的文本生成模型的迁移训练装置,其特征在于,所述处理模块,用于分别获取所述第一文本生成模型和所述第二文本生成模型在每个预测位置上的头部预测序列;确定所述第一文本生成模型的头部预测序列与所述第二文本生成模型的头部预测序列的并集;分别获取所述并集内类别在所述第一文本生成模型和所述第二文本生成模型的原始预测分布中的预测概率值序列;根据所述预测概率值序列计算基于斯皮尔曼等级相关系数的排序损失。

8.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述基于排序约束的文本生成模型的迁移训练方法。

9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述基于排序约束的文本生成模型的迁移训练方法。

10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述基于排序约束的文本生成模型的迁移训练方法。


技术总结
本发明提供一种基于排序约束的文本生成模型的迁移训练方法和装置,应用于自然语言处理技术领域。该方法包括:获取训练数据;将所述训练数据输入第一文本生成模型得到所述第一文本生成模型对答复文本的每个预测位置上的第一预测分布输出;将所述训练数据输入第二文本生成模型得到所述第二文本生成模型对答复文本的每个预测位置上的第二预测分布输出;计算所述第一预测分布输出和所述第二预测分布输出之间的排序损失和蒸馏损失;将所述排序损失和所述蒸馏损失融合得到混合损失,并将所有预测位置上的混合损失的均值作为总损失;基于所述总损失进行反向传播,以更新所述第二文本生成模型的模型参数。

技术研发人员:张家俊,彭天宇,宗成庆
受保护的技术使用者:中国科学院自动化研究所
技术研发日:
技术公布日:2025/1/28
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1