文本情感分析模型训练方法、情感分析方法、设备和介质

文档序号:34453614发布日期:2023-06-13 20:14阅读:37来源:国知局
文本情感分析模型训练方法、情感分析方法、设备和介质

本发明实施例涉及文本分析,特别涉及一种文本情感分析模型训练方法、情感分析方法、设备和介质。


背景技术:

1、随着社会思想的逐渐开放,人们对个性化的追求使得人们的个体偏差逐渐被放大。对于不同人所做出的文本评论的情感分析也不应该仍拘泥于用一个简单粗暴的标准去进行评判。

2、目前已有的情感分析系统,经常会忽略对于个体偏差信息的关注,导致模型只关注评论文本本身,即便是考虑到除评论文本以外的相关信息,也只是将信息进行单一的拼接或级联操作,无法真正地将个体偏差信息融合进词向量中,从而导致训练得到的模型无法对文本所蕴含的情感类别进行更加准确的分析。


技术实现思路

1、本申请实施方式的目的在于提供一种文本情感分析模型训练方法、情感分析方法、设备和介质,通过采用交叉注意力机制将评论文本在个体偏差下的情感表达差异进行融合形成标签权重,并采用该标签权重对评论文本的预测情感标签进行加权,从而提高模型对文本情感类别分析的准确度。

2、为解决上述技术问题,本申请的实施方式提供了一种文本情感分析模型训练方法,包括:对评论文本、所述评论文本的至少一种个体化信息分别进行编码,得到文本向量和所述至少一个的个体向量;将所述文本向量输入到情感预测模型中,得到所述文本向量在多个情感类别下的预测情感标签;采用交叉注意力模型将所述文本向量分别与每个所述个体向量融合后再拼接,得到标签权重;采用权重计算网络对每个所述预测情感标签采用所述标签权重进行加权计算,以及将计算结果进行线性回归,得到所述多个情感类别下的情感类别概率;采用分类损失函数对所述情感预测模型、所述交叉注意力模型和所述权重计算网络组成的情感分析模型进行训练。

3、本申请的实施方式还提供了一种文本情感分析方法,包括:对待分析评论文本、所述待分析评论文本的至少一种个体化信息分别进行编码,得到待分析的文本向量和所述至少一个的待分析个体向量;将所述待分析的文本向量和所述至少一个的待分析个体向量输入到训练好的情感分析模型,得到所述待分析评论文本所属的情感类别;其中,所述情感分析模型通过如上所述的文本情感分析模型训练方法得到。

4、本申请的实施方式还提供了一种电子设备,包括:至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上述实施方式提及的文本情感分析模型训练方法,或者能够执行上述实施方式提及的文本情感分析方法。

5、本申请的实施方式还提供了一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时实现上述实施方式提及的文本情感分析模型训练方法,或者能够执行上述实施方式提及的文本情感分析方法。

6、本申请实施方式提供的文本情感分析模型训练方法,通过对评论文本、评论文本的至少一种个体化信息分别进行编码,得到文本向量和至少一个的个体向量;将文本向量输入到情感预测模型中,得到文本向量在多个情感类别下的预测情感标签;采用交叉注意力模型将文本向量分别与每个个体向量融合后再拼接,得到标签权重;采用权重计算网络对每个预测情感标签采用标签权重进行加权计算,以及将计算结果进行线性回归,得到多个情感类别下的情感类别概率;采用分类损失函数对情感预测模型、交叉注意力模型和权重计算网络组成的情感分析模型进行训练。由于引入交叉注意力机制使得生成的标签权重具备了评论文本在个体化信息上的表达差异,并利用带有个性化表达差异的标签权重对初步得到的预测情感标签进行加权计算,使得最终预测的情感类别概率更加符合不同个体下的真实情感,从而提高模型对文本情感类别分析的准确度。



技术特征:

1.一种文本情感分析模型训练方法,其特征在于,包括:

2.根据权利要求1所述的文本情感分析模型训练方法,其特征在于,所述对评论文本、所述评论文本的至少一种个体化信息分别进行编码,得到文本向量和至少一个个体向量,包括:

3.根据权利要求1所述的文本情感分析模型训练方法,其特征在于,所述情感预测模型包括:双向长短期记忆网络、transformers模型和加法网络;

4.根据权利要求3所述的文本情感分析模型训练方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的文本情感分析模型训练方法,其特征在于,所述采用所述自适应权重对所述相加后的向量进行权重计算,得到所述文本向量在多个情感类别下的预测情感标签,包括:

6.根据权利要求1所述的文本情感分析模型训练方法,其特征在于,所述交叉注意力模型包括:交叉注意力网络和融合网络;

7.根据权利要求1-6中任一项所述的文本情感分析模型训练方法,其特征在于,所述个性化信息包括:所述评论文本的评论主体信息和/或评论对象信息。

8.一种文本情感分析方法,其特征在于,包括:

9.一种电子设备,其特征在于,包括:

10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的文本情感分析模型训练方法,或者实现如权利要求8所述的文本情感分析方法。


技术总结
本申请实施例涉及文本分析领域,公开了一种文本情感分析模型训练方法、情感分析方法、设备和介质。模型训练中:对评论文本、评论文本的至少一种个体化信息分别进行编码,得到文本向量和至少一个的个体向量;将文本向量输入到情感预测模型中,得到文本向量在多个情感类别下的预测情感标签;采用交叉注意力模型将文本向量分别与每个个体向量融合后再拼接,得到标签权重;采用权重计算网络对每个预测情感标签采用标签权重进行加权计算,以及将计算结果进行线性回归,得到多个情感类别下的情感类别概率。由于引入交叉注意力机制使得生成的标签权重具备了评论文本在个体化信息上的表达差异,从而提高模型对文本情感类别分析的准确度。

技术研发人员:过弋,陈丽安
受保护的技术使用者:华东理工大学
技术研发日:
技术公布日:2024/1/13
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1