基于图卷积对比学习和XLNet的知识图谱嵌入方法

文档序号:33760524发布日期:2023-04-18 17:38阅读:来源:国知局

技术特征:

1.基于图卷积对比学习和xlnet的知识图谱嵌入方法,包括以下步骤:

2.根据权利要求1所述的基于图卷积对比学习和xlnet的知识图谱嵌入方法,其特征在于:步骤1)中,知识图谱图结构的构建具体包括:

3.根据权利要求2所述的基于图卷积对比学习和xlnet的知识图谱嵌入方法,其特征在于:步骤2.1)中,针对图数据的数据增强策略包括以下四类:基于特征的增强、基于结构的增强、基于采样的增强和自适应的增强;

4.根据权利要求3所述的基于图卷积对比学习和xlnet的知识图谱嵌入方法,其特征在于:步骤2.2)中,gnn-xlnet用于捕捉属性与图结构信息之间重要的关联关系,gnn-xlnet同时计算每个节点的属性和边的生成损失,因此只需要为输入的图运行一次gnn;此外,gnn-xlnet处理带有子图采样的大规模图,并通过自适应嵌入队列减轻负采样带来的不准确损失;

5.根据权利要求4所述的基于图卷积对比学习和xlnet的知识图谱嵌入方法,其特征在于:步骤2.3)中,mlp是多层感知机,是多层的全连接的前馈神经网络,输入样本后,样本在网络中逐层前馈,得到最终输出值。

6.根据权利要求5所述的基于图卷积对比学习和xlnet的知识图谱嵌入方法,其特征在于:步骤2.4)中,采用优化后的互信息最大损失函数来训练参数,如下:


技术总结
本发明涉及知识图谱嵌入技术领域,提供一种基于图卷积对比学习和XLNet的知识图谱嵌入方法,其包括以下步骤:1)知识图谱图结构构建;2)基于图对比学习框架的GNN‑XLNet模型训练;3)实体链接。本发明提出的知识图谱嵌入方法,既减少了数据标注的工作量,又使知识图谱具备了较高的精确度。本发明通过图对比学习,增加了知识图谱样本量,使得深度学习模型的训练效果得到提升。本发明通过GNN‑XLNet模型,使得知识图谱嵌入能同时从图结构特征和语义特征两个方面获得特征提取,从而完成更好的嵌入。本发明能较佳地进行知识图谱的嵌入。

技术研发人员:廖伟智,梁铮琰,阎德劲
受保护的技术使用者:电子科技大学
技术研发日:
技术公布日:2024/1/13
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1