基于关系注意力增强和词性掩码的实体关系联合抽取方法

文档序号:35795247发布日期:2023-10-21 22:20阅读:来源:国知局

技术特征:

1.基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,包括:

2.如权利要求1所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,根据词编码特征进行关系预测的过程中,以首编码特征作为序列整体特征,以其余编码特征的均值作为序列局部特征,通过序列整体特征和序列局部特征进行关系预测;其中,关系预测包含2个全连接层和2个激活函数层,选择得分最高的k个关系类别作为候选关系列表。

3.如权利要求1所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,所述多层掩码包括词性掩码和句子分词掩码。

4.如权利要求1所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,每层transformer编码器包括多头注意力模块和深度前馈网络,将分词标记序列转换为连续向量,输入transformer编码器中,先通过引入多层掩码的多头注意力模块,将多头注意力模块的输出和连续向量相加后,再通过深度前馈网络得到该层transformer编码器的输出。

5.如权利要求1所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,所述实体抽取预测表为多层注意力矩阵中前n层注意力矩阵并求均值得到的用于实体抽取的抽取矩阵;实体抽取过程中,根据实体的头坐标和尾坐标进行判断,且不考虑抽取矩阵中坐标大于ml的元素和对角线下的元素,ml为句子分词标记长度。

6.如权利要求1所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,所述关系三元组预测表为多层注意力矩阵中剩余层的注意力矩阵并求均值得到用于关系三元组预测的预测矩阵;关系三元组预测过程中,根据头实体的头、尾实体的头和关系类别进行判断。

7.如权利要求5或6所述的基于关系注意力增强和词性掩码的实体关系联合抽取方法,其特征在于,将实体抽取结果和关系三元组预测结果整合的过程为,当[ts,te,ri]是三元组且存在两个以ts,te为头的实体,才为最终的实体关系三元组;其中,ts,te,ri分别表示头实体的头、尾实体的头以及关系类别。

8.基于关系注意力增强和词性掩码的实体关系联合抽取系统,其特征在于,包括:

9.一种电子设备,其特征在于,包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令,所述计算机指令被处理器运行时,完成权利要求1-7任一项所述的方法。

10.一种计算机可读存储介质,其特征在于,用于存储计算机指令,所述计算机指令被处理器执行时,完成权利要求1-7任一项所述的方法。


技术总结
本发明公开一种基于关系注意力增强和词性掩码的实体关系联合抽取方法,包括:对自然语句和关系名序列分别进行分词并拼接后得到分词标记序列;提取分词标记序列的词编码特征,进行关系预测,得到候选关系列表;对自然语句进行词性标注,和句子分词标记对齐后得到词性对齐序列,从而生成多层掩码;将多层掩码引入至多头注意力模块中,将多层注意力矩阵划分为实体抽取预测表和关系三元组预测表,从而分别进行实体抽取结果和关系三元组预测。在考虑实体对关系抽取作用的同时,兼顾关系对实体抽取的辅助作用,同时引入词性信息,提高对实体抽取的准确度。

技术研发人员:周风余,王国祥,陈建业,刘进,范崇锋,尹磊,李庆政,高鹤,丁笑迎
受保护的技术使用者:山东大学
技术研发日:
技术公布日:2024/1/15
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1