命名实体识别模型的训练方法、相关方法及相关产品与流程

文档序号:37340546发布日期:2024-03-18 18:09阅读:来源:国知局

技术特征:

1.一种命名实体识别模型的训练方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述训练数据还包括描述第二实体词语的实体类型的示例,所述第二实体词语为命名实体,且所述第二实体词语与所述第一实体词语不同;

3.根据权利要求1或2所述的方法,其特征在于,所述训练数据还包括第二辅助任务指令,所述第二辅助任务指令包括第二辅助任务的第三任务内容,所述第三任务内容包括从所述训练文本中确定所述第一实体词语;

4.根据权利要求3所述的方法,其特征在于,所述训练数据还包括第三辅助任务指令,所述第三辅助任务指令包括第三辅助任务的第四任务内容,所述第四任务内容包括确定所述训练文本中的词语的实体类型;

5.根据权利要求4所述的方法,其特征在于,所述基于所述第一差异、所述第二差异、所述第三差异和第四差异,更新所述预训练语言模型的参数,得到所述命名实体识别模型,包括:

6.根据权利要求4所述的方法,其特征在于,所述训练数据还包括预设实体类型,所述第四任务内容包括从预设实体类型中确定所述训练文本中的所述第一实体词语的实体类型。

7.根据权利要求3所述的方法,其特征在于,所述第一执行结果和所述第三执行结果均包括按预设句子结构描述所述第一实体词语的文本。

8.根据权利要求1或2所述的方法,其特征在于,所述训练数据还包括预设实体类型,所述第一任务内容包括从预设实体类型中确定所述第一实体词语的实体类型。

9.根据权利要求1或2所述的方法,其特征在于,所述预训练语言模型为文本到文本转换模型。

10.一种命名实体识别方法,其特征在于,所述方法包括:

11.根据权利要求10所述的方法,其特征在于,在得到命名实体识别结果之后,所述方法还包括:

12.根据权利要求11所述的方法,其特征在,所述命名实体识别结果按预设句式描述候选实体词语的候选实体类型,所述候选实体词语为命名实体;

13.根据权利要求12所述的方法,其特征在于,所述基于所述候选实体词语与所述候选实体类型,确定所述目标映射关系,包括:

14.一种命名实体识别模型的训练装置,其特征在于,所述训练装置包括:

15.一种命名实体识别装置,其特征在于,所述命名实体识别装置包括:

16.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,在所述处理器执行所述计算机指令的情况下,所述电子设备执行如权利要求1至9中任意一项所述的方法;

17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序包括程序指令,在所述程序指令被处理器执行的情况下,使所述处理器执行权利要求1至9中任意一项所述的方法;

18.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序或指令;在所述计算机程序或指令在计算机上运行的情况下,使得所述计算机执行权利要求1至9中任意一项所述的方法;


技术总结
本申请公开了一种命名实体识别模型的训练方法、相关方法及相关产品。该方法包括:获取训练数据,训练数据包括训练文本、主任务的第一任务内容、第一辅助任务的第二任务内容,第一任务内容包括确定训练文本中的第一实体词语以及第一实体词语的实体类型,第二任务内容包括确定训练文本所包含的实体类型;在利用训练数据训练预训练语言模型的过程中,预训练语言模型执行主任务得到第一执行结果、执行第一辅助任务得到第二执行结果;确定第一执行结果与主任务的第一标签的第一差异;确定第二执行结果与第一辅助任务的第二标签的第二差异;基于第一差异和第二差异,更新预训练语言模型的参数,得到命名实体识别模型。

技术研发人员:张家晟,刘喜凯
受保护的技术使用者:书行科技(北京)有限公司
技术研发日:
技术公布日:2024/3/17
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1