生成兴趣点提取模型和提取兴趣点的方法和装置与流程

文档序号:23988836发布日期:2021-02-20 12:48阅读:来源:国知局

技术特征:
1.一种生成兴趣点提取模型的方法,包括:获取主任务样本集和子任务样本集,其中,主任务样本包括文本信息和标注的兴趣点,子任务样本包括兴趣点和标签;将所述主任务样本集中每个文本信息作为输入,将每个文本信息对应的标注的兴趣点作为期望输出,训练多任务学习模型的共享层和第一条件随机场层;将所述子任务样本集中每个兴趣点作为输入,将每个兴趣点对应的标签作为期望输出,训练多任务学习模型的共享层和子任务输出层;响应于确定出所述多任务学习模型达到预定的训练完成条件,将所述共享层和所述第一条件随机场层确定为兴趣点提取模型。2.根据权利要求1所述的方法,其中,子任务包括以下至少一种:兴趣点成分分析任务、兴趣点分块任务、兴趣点语义匹配任务;以及所述兴趣点成分分析任务对应的子任务样本包括:兴趣点和成分标签,所述兴趣点分块任务对应的子任务样本包括:兴趣点和分块标签,所述兴趣点语义匹配任务对应的子任务样本包括:2个兴趣点和语义匹配标签,3种子任务输出层分别为第二条件随机场层、第三条件随机场层、语义匹配模型。3.根据权利要求1所述的方法,其中,所述将所述主任务样本集中每个文本信息作为输入,将所述主任务样本集中每个标注的兴趣点作为期望输出,训练多任务学习模型的共享层和第一条件随机场层,包括:从所述主任务样本集选取主任务样本,执行第一训练步骤:将主任务样本中的文本信息输入多任务学习模型的共享层,得到文本信息的特征;将文本信息的特征输入第一条件随机场层,输出预测的兴趣点;将预测的兴趣点与标注的兴趣点进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第一达标条件;响应于确定所述多任务学习模型未达到所述第一达标条件,调整所述多任务学习模型的共享层和第一条件随机场层的网络参数,以及从所述主任务样本集中重新选取主任务样本,使用调整后的多任务学习模型,继续执行所述第一训练步骤。4.根据权利要求2所述的方法,其中,若子任务包括兴趣点成分分析任务,则所述将所述子任务样本集中每个兴趣点作为输入,将所述子任务样本集中每个标签作为期望输出,训练多任务学习模型的共享层和子任务输出层,包括:从兴趣点成分分析任务对应的子任务样本集选取子任务样本,执行第二训练步骤:将子任务样本中的兴趣点输入多任务学习模型的共享层,得到兴趣点的特征;将兴趣点的特征输入第二条件随机场层,输出预测的成分;将预测的成分与成分标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第二达标条件;响应于确定所述多任务学习模型未达到所述第二达标条件,调整所述多任务学习模型的共享层和第二条件随机场层的网络参数,以及从兴趣点成分分析任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第二训练步骤。5.根据权利要求2所述的方法,其中,若子任务包括兴趣点分块任务,则所述将所述子任务样本集中每个兴趣点作为输入,将所述子任务样本集中每个标签作为期望输出,训练多任务学习模型的共享层和子任务输出层,包括:从兴趣点分块任务对应的子任务样本集选取子任务样本,执行第三训练步骤:将子任务样本中的兴趣点输入多任务学习模型的共享层,得到兴趣点的特征;将兴趣点的特征输
入第三条件随机场层,输出预测的分块;将预测的分块与分块标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第三达标条件;响应于确定所述多任务学习模型未达到所述第三达标条件,调整所述多任务学习模型的共享层和第三条件随机场层的网络参数,以及从兴趣点分块任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第三训练步骤。6.根据权利要求2所述的方法,其中,若子任务包括兴趣点语义匹配任务,则所述将所述子任务样本集中每个兴趣点作为输入,将所述子任务样本集中每个标签作为期望输出,训练多任务学习模型的共享层和子任务输出层,包括:从兴趣点语义匹配任务对应的子任务样本集选取子任务样本,执行第四训练步骤:将子任务样本中的2个兴趣点输入多任务学习模型的共享层,得到第一兴趣点特征和第二兴趣点特征;将第一兴趣点特征和第二兴趣点特征输入语义匹配模型,输出预测的匹配标识;将预测的匹配标识与语义匹配标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第四达标条件;响应于确定所述多任务学习模型未达到所述第四达标条件,调整所述多任务学习模型的共享层和所述语义匹配模型的网络参数,以及从兴趣点语义匹配任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第四训练步骤。7.根据权利要求6所述的方法,其中,所述语义匹配模型包括:多头注意力层、级联层、全连接层、分类层。8.根据权利要求1-7中任一项所述的方法,其中,所述共享层包括词嵌层、特征提取层,其中,所述特征提取层包括3层门控线性单元,3层分支卷积,3层注意力机制层,3层全连接层,每层做横向规范化,层与层之间做残差连接。9.一种提取兴趣点的方法,包括:获取待提取兴趣点的文本信息;将所述文本信息输入根据权利要求1-8中任一项所述的方法训练出的兴趣点提取模型,输出至少一个兴趣点。10.一种生成兴趣点提取模型的装置,包括:样本获取单元,被配置成获取主任务样本集和子任务样本集,其中,主任务样本包括文本信息和标注的兴趣点,子任务样本包括兴趣点和标签;主任务训练单元,被配置成将所述主任务样本集中每个文本信息作为输入,将每个文本信息对应的标注的兴趣点作为期望输出,训练多任务学习模型的共享层和第一条件随机场层;子任务训练单元,被配置成将所述子任务样本集中每个兴趣点作为输入,将每个兴趣点对应的标签作为期望输出,训练多任务学习模型的共享层和子任务输出层;输出单元,被配置成响应于确定出所述多任务学习模型达到预定的训练完成条件,将所述共享层和所述第一条件随机场层确定为兴趣点提取模型。11.根据权利要求10所述的装置,其中,子任务包括以下至少一种:兴趣点成分分析任务、兴趣点分块任务、兴趣点语义匹配任务;以及所述兴趣点成分分析任务对应的子任务样本包括:兴趣点和成分标签,所述兴趣点分块任务对应的子任务样本包括:兴趣点和分块标签,所述兴趣点语义匹配任务对应的子任务样本包括:2个兴趣点和语义匹配标签,3种子任
务输出层分别为第二条件随机场层、第三条件随机场层、语义匹配模型。12.根据权利要求10所述的装置,其中,所述主任务训练单元进一步被配置成:从所述主任务样本集选取主任务样本,执行第一训练步骤:将主任务样本中的文本信息输入多任务学习模型的共享层,得到文本信息的特征;将文本信息的特征输入第一条件随机场层,输出预测的兴趣点;将预测的兴趣点与标注的兴趣点进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第一达标条件;响应于确定所述多任务学习模型未达到所述第一达标条件,调整所述多任务学习模型的共享层和第一条件随机场层的网络参数,以及从所述主任务样本集中重新选取主任务样本,使用调整后的多任务学习模型,继续执行所述第一训练步骤。13.根据权利要求11所述的装置,其中,若子任务包括兴趣点成分分析任务,则子任务训练单元包括第一子任务训练单元,被配置成:从兴趣点成分分析任务对应的子任务样本集选取子任务样本,执行第二训练步骤:将子任务样本中的兴趣点输入多任务学习模型的共享层,得到兴趣点的特征;将兴趣点的特征输入第二条件随机场层,输出预测的成分;将预测的成分与成分标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第二达标条件;响应于确定所述多任务学习模型未达到所述第二达标条件,调整所述多任务学习模型的共享层和第二条件随机场层的网络参数,以及从兴趣点成分分析任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第二训练步骤。14.根据权利要求11所述的装置,其中,若子任务包括兴趣点分块任务,则子任务训练单元包括第二子任务训练单元,被配置成:从兴趣点分块任务对应的子任务样本集选取子任务样本,执行第三训练步骤:将子任务样本中的兴趣点输入多任务学习模型的共享层,得到兴趣点的特征;将兴趣点的特征输入第三条件随机场层,输出预测的分块;将预测的分块与分块标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第三达标条件;响应于确定所述多任务学习模型未达到所述第三达标条件,调整所述多任务学习模型的共享层和第三条件随机场层的网络参数,以及从兴趣点分块任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第三训练步骤。15.根据权利要求11所述的装置,其中,若子任务包括兴趣点语义匹配任务,则子任务训练单元包括第三子任务训练单元,被配置成:从兴趣点语义匹配任务对应的子任务样本集选取子任务样本,执行第四训练步骤:将子任务样本中的2个兴趣点输入多任务学习模型的共享层,得到第一兴趣点特征和第二兴趣点特征;将第一兴趣点特征和第二兴趣点特征输入语义匹配模型,输出预测的匹配标识;将预测的匹配标识与语义匹配标签进行比较;根据比较结果确定所述多任务学习模型是否达到预设的第四达标条件;响应于确定所述多任务学习模型未达到所述第四达标条件,调整所述多任务学习模型的共享层和所述语义匹配模型的网络参数,以及从兴趣点语义匹配任务对应的子任务样本集中重新选取子任务样本,使用调整后的多任务学习模型,继续执行所述第四训练步骤。16.根据权利要求15所述的装置,其中,所述语义匹配模型包括:多头注意力层、级联层、全连接层、分类层。
17.根据权利要求10-16中任一项所述的装置,其中,所述共享层包括词嵌层、特征提取层,其中,所述特征提取层包括3层门控线性单元,3层分支卷积,3层注意力机制层,3层全连接层,每层做横向规范化,层与层之间做残差连接。18.一种提取兴趣点的装置,包括:文本获取单元,被配置成获取待提取兴趣点的文本信息;提取单元,被配置成将所述文本信息输入根据权利要求1-8中任一项所述的装置训练出的兴趣点提取模型,输出至少一个兴趣点。19.一种电子设备,其特征在于,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述的方法。20.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-9中任一项所述的方法。
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1