基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法及系统

1.本发明属于课程知识图谱构建技术领域，尤其涉及一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法及系统。


背景技术：

2.知识图谱表示学习旨在通过学习图谱中的语义特征，在保留原有的图结构以及语义信息的同时，将知识图谱中的实体和关系映射到低维连续的向量空间中，从而使实体和关系能够直接进行数值化计算，提高计算效率。
3.现有的知识图谱表示学习模型包括翻译模型、语义匹配模型和神经网络模型。翻译模型的主要思想是将三元组(h,r,t)中的关系r解释为头实体h到尾实体t的翻译过程。语义匹配模型是使用基于语义相似度的得分函数，通过语义相似度的匹配来衡量事实的合理性。神经网络模型主要是通过深度神经网络来学习知识图谱的嵌入表示。
4.上述这些模型大都只考虑了知识图谱的三元组结构信息，对知识图谱中富含语义关系的图结构信息使用不完全。
5.但是近期基于图卷积神经网络上的研究取得了令人瞩目的成果，图卷积网络是一种能够对图结构信息高效利用的深度学习模型，通过结合中心节点与邻居节点的信息，以此更准确的表示中心节点的特征信息。
6.然而图卷积网络受到原始输入的限制，原始输入的不准确会影响模型最后学习的结果。
7.就目前的知识领域学习平台而言，采用随机初始化的向量作为gcn模型的初始输入，无法充分的运用知识点之间原本存在的语义关系，在构建知识点之间的表示向量时，会导致知识点之间的联系是模糊的，学习者无法了解知识点之间的联系。


技术实现要素：

8.本发明针对目前的知识领域学习平台存在的采用随机初始化的向量作为gcn模型的初始输入，无法充分的运用知识点之间原本存在的语义关系，在构建知识点之间的表示向量时，会导致知识点之间的联系是模糊的，学习者无法了解知识点之间的联系的问题，提出一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法及系统，能够同时对教育领域知识点的结构信息和关系语义进行学习，并采用类型嵌入优化教育领域知识点表示学习的结果，并基于知识点的向量表示，对每一个知识点进行分析，推理出知识点之间是否存在关联关系，以此预测教育领域知识图谱中尚未发现的知识点三元组，构建更加完备的教育领域知识图谱。
9.为了实现上述目的，本发明采用以下技术方案：
10.本发明一方面提出一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法，包括：
11.步骤1：利用bert模型构建教育领域课程知识点语料库，构建教育领域课程知识点三元组集合；
12.步骤2：采用transe模型作为三元组编码器，将构建的教育领域课程知识点三元组集合输入至transe模型中，通过transe模型对所述三元组集合中实体和关系进行向量表示，得到三元组集合对应的实体向量和关系向量；
13.步骤3：将构建的教育领域课程知识点三元组集合输入至三元组实体类型编码器中，通过三元组实体类型编码器对所述三元组集合中实体的类型进行向量表示，得到实体类型向量；
14.步骤4：通过实体类型向量优化transe模型得到的实体向量和关系向量；
15.步骤5：将步骤4获得的实体向量和关系向量输入至图卷积神经网络中进行表示学习，得到最终更新后的课程知识点三元组对应的实体向量和关系向量；
16.步骤6：通过步骤5得出的实体向量和关系向量对关联知识点进行链接预测。
17.进一步地，所述步骤1包括：
18.步骤1.1：收集教育领域语料；
19.步骤1.2：对收集的语料进行切词，得到词语集合，构建教育领域语料库；
20.步骤1.3：统计所述语料库中词语的分布，并基于分布结果从所述词语集合中选取词语，生成自定义词典，构建知识点三元组；
21.步骤1.4：根据构建的教育领域语料库中的文本划分实体，提取实体间的对应关系，并以三元组的形式将定义好的数据存储起来，用于后续步骤。
22.进一步地，所述步骤2包括：
23.步骤2.1：随机生成三元组头实体、关系、尾实体的向量表示，将三元组表示为(h,r,t)，其中h为头实体、t为尾实体、关系r看作从头实体到尾实体的一种转化操作；
24.步骤2.2：使用下式随机生成负样本数据(h
′
,r
′
,t
′
)：
25.t
′
＝{(h
′
,r
′
,t
′
)|h
′
∈e}∪{(h,r
′
,t)|r
′
∈r}∪{(h,r,t
′
)|t
′
∈e}
26.其中，e、r分别表示知识图谱的实体集合与关系集合；t为正样本三元组集合；t
′
为负样本三元组集合，通过随机替换正样本三元组的头实体、尾实体或者关系得到；
27.步骤2.3：获得三元组能量函数值e1(h,r,t)，用于后续构建损失函数进行实体向量和关系向量的优化：
28.e1(h,r,t)＝||eh+e
r-e
t
||
29.其中,eh,er,e
t
分别代表头实体、关系、尾实体的向量表示。
30.进一步地，所述步骤3包括：
31.步骤3.1：三元组实体类型编码器中，按照如下类型特征函数对实体类型进行表示学习：
32.f
at
(v,r)＝mryv33.其中，yv表示实体v在d维连续向量空间中的类型表示，mr为关系r的线性转换矩阵；
34.通过类型特征函数，三元组能量函数e2(h,r,t)定义为如下公式：
35.y
h,r
＝f
at
(h,r),y
t,r
＝f
at
(t,r)
36.e2(h,r,t)＝||y
h,r
+y
r-y
t,r
||
37.其中y
h,r
、y
t,r
分别表示头实体h与尾实体t通过关系r表示的实体向量；yr为三元组
中关系的向量表示；且y
h,r
+yr＝y
t,r
；
38.步骤3.2：通过相似度对类型向量进行约束；
39.对于拥有相同关系的两个三元组，应该满足以下公式：
40.y
h1,r
＝y
h2,r
,y
t1,r
＝y
t2,r
41.e2(h1,r,t1)＝e2(h2,r,t2)
42.其中y
h1,r
和y
h2,r
分别是在关系r下的两个三元组头实体的类型向量表示，y
t1,r
和y
t2,r
分别是在关系r下的两个三元组尾实体的类型向量表示。
43.进一步地，所述步骤4中，优化方式如下：
[0044][0045][0046]
l2＝max(γ2+e2(h,r,t)-e2(h
′
,r
′
,t
′
),0)
[0047]
最后产生结果为eh、e
t
、er，分别代表头实体、尾实体、关系在d维连续向量空间中的表示；γ,γ1,γ2为超参数，取值范围在(0，1)之间。
[0048]
进一步地，所述步骤5包括：
[0049]
步骤5.1：将步骤4产生的实体向量和关系向量作为图卷积神经网络模型的初始输入；设计图卷积神经网络；同时学习中心实体的直接邻接实体的信息，以及中心实体与邻接实体相连的边信息，利用该图卷积神经网络学习知识图谱的结构信息；
[0050]
步骤5.2：利用如下公式，将步骤4产生的实体向量和关系向量融合到图卷积神经网络模型中，以充分使用知识图谱包含的语义信息：
[0051]eh
＝e
t-er[0052]
其中eh、e
t
、er分别表示头实体、尾实体、关系在d维连续空间中的向量表示；
[0053]
步骤5.3：利用步骤4得到的实体向量、关系向量，以及步骤3得到的实体类型向量，通过图卷积神经网络gcn更新相关的实体和关系的向量表示，得到最终的知识点预测结果。
[0054]
本发明另一方面提出一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测系统，包括：
[0055]
三元组构建模块，用于利用bert模型构建教育领域课程知识点语料库，构建教育领域课程知识点三元组集合；
[0056]
第一向量化模块，用于采用transe模型作为三元组编码器，将构建的教育领域课程知识点三元组集合输入至transe模型中，通过transe模型对所述三元组集合中实体和关系进行向量表示，得到三元组集合对应的实体向量和关系向量；
[0057]
第二向量化模块，用于将构建的教育领域课程知识点三元组集合输入至三元组实体类型编码器中，通过三元组实体类型编码器对所述三元组集合中实体的类型进行向量表示，得到实体类型向量；
[0058]
优化模块，用于通过实体类型向量优化transe模型得到的实体向量和关系向量；
[0059]
更新模块，用于将优化模块获得的实体向量和关系向量输入至图卷积神经网络中进行表示学习，得到最终更新后的课程知识点三元组对应的实体向量和关系向量；
[0060]
知识点链接预测模块，用于通过步更新模块得出的实体向量和关系向量对关联知识点进行链接预测。
[0061]
进一步地，所述三元组构建模块具体用于：
[0062]
收集教育领域语料；
[0063]
对收集的语料进行切词，得到词语集合，构建教育领域语料库；
[0064]
统计所述语料库中词语的分布，并基于分布结果从所述词语集合中选取词语，生成自定义词典，构建知识点三元组；
[0065]
根据构建的教育领域语料库中的文本划分实体，提取实体间的对应关系，并以三元组的形式将定义好的数据存储起来，用于后续步骤。
[0066]
进一步地，所述第一向量化模块具体用于：
[0067]
随机生成三元组头实体、关系、尾实体的向量表示，将三元组表示为(h,r,t)，其中h为头实体、t为尾实体、关系r看作从头实体到尾实体的一种转化操作；
[0068]
使用下式随机生成负样本数据(h
′
,r
′
,t
′
)：
[0069]
t
′
＝{(h
′
,r
′
,t
′
)|h
′
∈e}∪{(h,r
′
,t)|r
′
∈r}∪{(h,r,t
′
)|t
′
∈e}
[0070]
其中，e、r分别表示知识图谱的实体集合与关系集合；t为正样本三元组集合；t
′
为负样本三元组集合，通过随机替换正样本三元组的头实体、尾实体或者关系得到；
[0071]
获得三元组能量函数值e1(h,r,t)，用于后续构建损失函数进行实体向量和关系向量的优化：
[0072]
e1(h,r,t)＝||eh+e
r-e
t
||
[0073]
其中,eh,er,e
t
分别代表头实体、关系、尾实体的向量表示。
[0074]
进一步地，所述第二向量化模块具体用于：
[0075]
三元组实体类型编码器中，按照如下类型特征函数对实体类型进行表示学习：
[0076]fat
(v,r)＝mryv[0077]
其中，yv表示实体v在d维连续向量空间中的类型表示，mr为关系r的线性转换矩阵；
[0078]
通过类型特征函数，三元组能量函数e2(h,r,t)定义为如下公式：
[0079]yh,r
＝f
at
(h,r),y
t,r
＝f
at
(t,r)
[0080]
e2(h,r,t)＝||y
h,r
+y
r-y
t,r
||
[0081]
其中y
h,r
、y
t,r
分别表示头实体h与尾实体t通过关系r表示的实体向量；yr为三元组中关系的向量表示；且y
h,r
+yr＝y
t,r
；
[0082]
通过相似度对类型向量进行约束；
[0083]
对于拥有相同关系的两个三元组，应该满足以下公式：
[0084]yh1,r
＝y
h2,r
,y
t1,r
＝y
t2,r
[0085]
e2(g1,r,t1)＝e2(h2,r,t2)
[0086]
其中y
h1,r
和y
h2,r
分别是在关系r下的两个三元组头实体的类型向量表示，y
t1,r
和y
t2,r
分别是在关系r下的两个三元组尾实体的类型向量表示；
[0087]
所述优化模块中，优化方式如下：
[0088]
[0089][0090]
l2＝max(γ2+e2(h,r,t)-e2(h
′
,r
′
,t
′
),0)
[0091]
最后产生结果为eh、e
t
、er，分别代表头实体、尾实体、关系在d维连续向量空间中的表示；γ,γ1,γ2为超参数，取值范围在(0，1)之间；
[0092]
所述预测模块具体用于：
[0093]
将优化模块产生的实体向量和关系向量作为图卷积神经网络模型的初始输入；设计图卷积神经网络；同时学习中心实体的直接邻接实体的信息，以及中心实体与邻接实体相连的边信息，利用该图卷积神经网络学习知识图谱的结构信息；
[0094]
利用如下公式，将优化模块产生的实体向量和关系向量融合到图卷积神经网络模型中，以充分使用知识图谱包含的语义信息：
[0095]eh
＝e
t-er[0096]
其中eh、e
t
、er分别表示头实体、尾实体、关系在d维连续空间中的向量表示；
[0097]
利用优化模块得到的实体向量、关系向量，以及第二向量化模块得到的实体类型向量，通过图卷积神经网络gcn更新相关的实体和关系的向量表示，得到最终的知识点预测结果。
[0098]
与现有技术相比，本发明具有的有益效果：
[0099]
本发明通过利用图谱中存在的实体类型信息，依托于知识图谱本身的结构信息，对教育领域中知识点进行向量表示，在一定程度上提高了知识图谱的嵌入表示学习性能，在基于连续数值向量空间上计算的教育领域知识应用上有更好的表现。
[0100]
通过表示出来的知识点向量(即最终更新后的实体向量和关系向量)，可以对关联知识点进行链接预测，有助于得出教育领域不同知识点之间的关联性，通过向量表示分析知识点的关联，对最开始构建的教育领域知识图谱知识点进行补充，预测知识图谱中尚未包含的知识点三元组，建立完善的教育领域知识图谱。
附图说明
[0101]
图1为本发明实施例一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法的基本流程图；
[0102]
图2为本发明实施例一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测系统架构示意图。
具体实施方式
[0103]
下面结合附图和具体的实施例对本发明做进一步的解释说明：
[0104]
如图1所示，一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测方法，包括：
[0105]
步骤s101：利用bert模型构建教育领域课程知识点语料库，构建教育领域课程知识点三元组集合；
[0106]
步骤s102：采用transe模型作为三元组编码器，将构建的教育领域课程知识点三元组集合输入至transe模型中(即将实体和关系嵌入到d维的连续向量空间中)，通过
transe模型对所述三元组集合中实体和关系进行向量表示，得到三元组集合对应的实体向量和关系向量；
[0107]
步骤s103：将构建的教育领域课程知识点三元组集合输入至三元组实体类型编码器中，通过三元组实体类型编码器对所述三元组集合中实体的类型进行向量表示，得到实体类型向量；
[0108]
步骤s104：通过实体类型向量优化transe模型得到的实体向量和关系向量；
[0109]
步骤s105：将步骤s104获得的实体向量和关系向量输入至图卷积神经网络中进行表示学习，得到最终更新后的课程知识点三元组对应的实体向量和关系向量；
[0110]
步骤s106：通过步骤s105得出的实体向量和关系向量对关联知识点进行链接预测。
[0111]
本发明先对实体和关系进行向量表示，后通过实体类型优化实体和关系向量，并将二者作为图卷积神经网络的原始输入进行表示学习，得到最后的实体向量和关系向量，相比于以往图卷积神经网络随机初始化原始输入的方式，模型不是从零开始，而是基于已知的信息学习，这有利于最后的表示结果更加准确。
[0112]
进一步地，所述步骤s101包括：
[0113]
s101.1：收集教育领域语料；
[0114]
s101.2：对收集的语料进行切词，得到词语集合，构建教育领域语料库；
[0115]
s101.3：统计语料库中词语的分布，并基于分布结果从所述词语集合中选取词语，生成自定义词典，构建知识点三元组；
[0116]
s101.4：根据构建的教育领域语料库中的文本划分实体，提取实体间的对应关系，并以三元组的形式将定义好的数据存储起来，用于后续步骤。
[0117]
进一步地，所述步骤s102包括：
[0118]
知识图谱以三元组的形式存储，为了转换成计算机可以理解的形式进行后续的优化。需要对实体和关系进行表示学习，在学习之前，对实体和关系进行向量初始化。
[0119]
步骤s102.1：随机生成三元组头实体、关系、尾实体的向量表示；将三元组表示为(h,r,t)，h为头实体、t为尾实体、关系r看作从头实体到尾实体的一种转化操作。
[0120]
步骤s102.2：依据关系是头实体与尾实体之间的转换操作这一思想，使用下式随机生成负样本数据(h
′
,r
′
,t
′
)：
[0121]
t
′
＝{(h
′
,r
′
,t
′
)|h
′
∈e}∪{(h,r
′
,t)|r
′
∈r}∪{(h,r,t
′
)|t
′
∈e}；
[0122]
其中，e、r分别表示知识图谱的实体集合与关系集合；t为正样本三元组集合；t
′
为负样本三元组集合，通过随机替换正样本三元组地头实体或者尾实体或者关系得到。
[0123]
步骤s102.3：获得三元组能量函数值e1(h,r,t)，用于后续构建损失函数进行实体向量和关系向量的优化：
[0124]
e1(h,r,t)＝||eh+e
r-e
t
||；
[0125]
其中,eh,er,e
t
分别代表头实体、关系、尾实体的向量表示。
[0126]
进一步地，所述步骤s103包括：
[0127]
步骤s103.1：在已经给定的三元组中，实体e和它相关联的关系r，学习类型和关系的向量表示，从而得到类型表示的重要信息。三元组实体类型编码器中，学习的类型特征函数表示如下：
[0128]fat
(v,r)＝mryv[0129]
其中，yv表示实体v(v可为头实体，也可为尾实体)在d维连续向量空间中的类型表示；mr为关系r的线性转换矩阵，该矩阵最初随机生成参数，通过迭代更新参数，该矩阵可以选择与关联关系最相关的每种嵌入类型的潜在信息。
[0130]
通过上述公式，三元组能量函数定义为如下公式：
[0131]yh,r
＝f
at
(h,r),y
t,r
＝f
at
(t,r)
[0132]
e2(h,r,t)＝||y
h,r
+y
r-y
t,r
||
[0133]
其中y
h,r
、y
t,r
分别表示头实体h与尾实体t通过关系r表示的实体向量；yr为类型三元组中关系的向量表示；对于y
h,r
、y
t,r
、yr，所预期的结果应该满足以下等式：
[0134]yh,r
+yr＝y
t,r
[0135]
步骤s103.2：通过相似度对类型向量(嵌入)进行约束；
[0136]
通过步骤s103学习的类型表示，应该受限于实体类型的相似度约束，以此来对实体类型进行限制，使实体类型表示更准确。因而，拥有相同关系的实体之间应该拥有更加相近的嵌入表示。因此，对于拥有相同关系的两个三元组，应该满足以下公式：
[0137]yh1,r
＝y
h2,r
,y
t1,r
＝y
t2,r
[0138]
其中y
h1,r
和y
h2,r
分别是在关系r下的两个三元组头实体的类型向量表示，y
t1,r
和y
t2,r
分别是在关系r下的两个三元组尾实体的类型向量表示。
[0139]
进而继续考虑这两个三元组应满足e2(h1,r,t1)＝e2(h2,r,t2)。
[0140]
因二者三元组关系相同，则上述公式的值应该为0或接近0。
[0141]
具体地，所述步骤s104包括：
[0142]
通过优化上述产生的三元组实体向量、关系向量和实体类型向量，获得图卷积神经网络原始输入的特征向量，优化方式如下：
[0143][0144][0145]
l2＝max(γ2+e2(h,r,t)-e2(h
′
,r
′
,t
′
),0)
[0146]
最后产生结果为eh、e
t
、er，分别代表头实体、尾实体、关系在d维连续向量空间中的表示；γ,γ1,γ2为超参数，取值范围在(0，1)之间。
[0147]
具体地，所述步骤s105包括：
[0148]
步骤s105.1：输入图卷积神经网络的初始特征向量
[0149]
将步骤s104产生的实体向量和关系向量作为图卷积神经网络模型的初始输入。设计图卷积神经网络，包括一个输入层和两个隐藏层，隐藏层同时学习中心实体v的直接邻接实体的信息，以及中心实体与邻接实体相连的边信息，利用该图卷积神经网络学习知识图谱的结构信息；
[0150]
步骤s105.2：传统的图卷积神经网络只考虑图中节点的信息，忽略了图中边的信息，为了充分利用图中边的信息，利用如下公式，将步骤s104产生的实体向量和关系向量融合到图卷积神经网络模型中，以充分使用知识图谱包含的语义信息：
[0151]eh
＝e
t-er[0152]
其中eh、e
t
、er分别表示头实体、尾实体、关系在连续空间中的向量(嵌入)表示。
[0153]
步骤s105.3：利用步骤s104得到的实体向量、关系向量，以及步骤s103产生的类型表示向量，通过gcn更新相关的实体和关系的向量表示，得到最终的知识点预测结果；
[0154]
在gcn第一层网络中进行更新头实体表示向量的公式如下：
[0155][0156]
在gcn第二层网络中更新尾实体表示向量的公式如下：
[0157][0158]
其中n(h)是头实体h的邻接实体集合；n(t)是尾实体t的邻接实体集合；eh,e
t
,er为步骤s104产生的结果；通过执行步骤s105.2的操作，w
λ(r)
为图卷积神经网络的权重矩阵，λ(r)表明该权重矩阵是关于关系r的，对中心实体、邻接实体，以及二者相连的关系进行减法运算，以此使得图卷积网络可以利用图谱中的边信息；eh是节点h得更新过后得实体向量。
[0159]
因此，经过上述转化，可以得到最终的关系向量表示，公式如下：
[0160][0161]
mr是线性转换矩阵，将所有的关系映射在同一个连续的向量空间中，并将表示向量在gcn下一层中使用；er是步骤s103产生的初始关系向量。
[0162]
对于第二层gcn网络，神经网络层可以采用如下公式对头实体h进行更新：
[0163][0164]
尾实体更新公式如下：
[0165][0166]
第二层的gcn网络采用相同的关系向量表示如下：
[0167][0168]
通过第二层图卷积神经网络后生成的实体与关系的向量为最终三元组头实体、尾实体、关系的表示向量
[0169]
进一步地，所述步骤s106包括：通过向量表示分析知识点的关联，对最开始构建的教育领域知识图谱知识点进行补充，预测知识图谱中尚未包含的知识点三元组，建立完善的教育领域知识图谱。
[0170]
在上述实施例的基础上，如图2所示，本发明还提出一种基于图卷积神经网络与类型嵌入的教育领域联合知识点预测系统，包括：
[0171]
三元组构建模块201，用于利用bert模型构建教育领域课程知识点语料库，构建教育领域课程知识点三元组集合；
[0172]
第一向量化模块202，用于采用transe模型作为三元组编码器，将构建的教育领域课程知识点三元组集合输入至transe模型中，通过transe模型对所述三元组集合中实体和
关系进行向量表示，得到三元组集合对应的实体向量和关系向量；
[0173]
第二向量化模块203，用于将构建的教育领域课程知识点三元组集合输入至三元组实体类型编码器中，通过三元组实体类型编码器对所述三元组集合中实体的类型进行向量表示，得到实体类型向量；
[0174]
优化模块204，用于通过实体类型向量优化transe模型得到的实体向量和关系向量；
[0175]
更新模块205，用于将优化模块204获得的实体向量和关系向量输入至图卷积神经网络中进行表示学习，得到最终更新后的课程知识点三元组对应的实体向量和关系向量；
[0176]
知识点链接预测模块206，用于通过步更新模块205得出的实体向量和关系向量对关联知识点进行链接预测。
[0177]
进一步地，所述三元组构建模块201具体用于：
[0178]
收集教育领域语料；
[0179]
对收集的语料进行切词，得到词语集合，构建教育领域语料库；
[0180]
统计所述语料库中词语的分布，并基于分布结果从所述词语集合中选取词语，生成自定义词典，构建知识点三元组；
[0181]
根据构建的教育领域语料库中的文本划分实体，提取实体间的对应关系，并以三元组的形式将定义好的数据存储起来，用于后续步骤。
[0182]
进一步地，所述第一向量化模块202具体用于：
[0183]
随机生成三元组头实体、关系、尾实体的向量表示，将三元组表示为(h,r,t)，其中h为头实体、t为尾实体、关系r看作从头实体到尾实体的一种转化操作；
[0184]
使用下式随机生成负样本数据(h
′
,r
′
,t
′
)：
[0185]
t
′
＝{(h
′
,r
′
,t
′
)|h
′
∈e}∪{(h,r
′
,t)|r
′
∈r}∪{(h,r,t
′
)|t
′
∈e}
[0186]
其中，e、r分别表示知识图谱的实体集合与关系集合；t为正样本三元组集合；t
′
为负样本三元组集合，通过随机替换正样本三元组的头实体、尾实体或者关系得到；
[0187]
获得三元组能量函数值e1(h,r,t)，用于后续构建损失函数进行实体向量和关系向量的优化：
[0188]
e1(h,r,t)＝||eh+e
r-e
t
||
[0189]
其中,eh,er,e
t
分别代表头实体、关系、尾实体的向量表示。
[0190]
进一步地，所述第二向量化模块203具体用于：
[0191]
三元组实体类型编码器中，按照如下类型特征函数对实体类型进行表示学习：
[0192]fat
(v,r)＝mryv[0193]
其中，yv表示实体v在d维连续向量空间中的类型表示，mr为关系r的线性转换矩阵；
[0194]
通过类型特征函数，三元组能量函数e2(h,r,t)定义为如下公式：
[0195]yh,r
＝f
at
(h,r),y
t,r
＝f
at
(t,r)
[0196]
e2(h,r,t)＝||y
h,r
+y
r-y
t,r
||
[0197]
其中y
h,r
、y
t,r
分别表示头实体h与尾实体t通过关系r表示的实体向量；yr为三元组中关系的向量表示；且y
h,r
+yr＝y
t,r
；
[0198]
通过相似度对类型向量进行约束；
[0199]
对于拥有相同关系的两个三元组，应该满足以下公式：
[0200]yh1,r
＝y
h2,r
,y
t1,r
＝y
t2,r
[0201]
e2(h1,r,t1)＝e2(h2,r,t2)
[0202]
其中y
h1,r
和y
h2,r
分别是在关系r下的两个三元组头实体的类型向量表示，y
t1,r
和y
t2,r
分别是在关系r下的两个三元组尾实体的类型向量表示。
[0203]
进一步地，所述优化模块204中，优化方式如下：
[0204][0205][0206]
l2＝max(γ2+e2(h,r,t)-e2(h
′
,r
′
,t
′
),0)
[0207]
最后产生结果为eh、e
t
、er，分别代表头实体、尾实体、关系在d维连续向量空间中的表示；γ,γ1,γ2为超参数，取值范围在(0，1)之间。
[0208]
进一步地，所述预测模块205具体用于：
[0209]
将优化模块204产生的实体向量和关系向量作为图卷积神经网络模型的初始输入；设计图卷积神经网络；同时学习中心实体的直接邻接实体的信息，以及中心实体与邻接实体相连的边信息，利用该图卷积神经网络学习知识图谱的结构信息；
[0210]
利用如下公式，将优化模块204产生的实体向量和关系向量融合到图卷积神经网络模型中，以充分使用知识图谱包含的语义信息：
[0211]eh
＝e
t-er[0212]
其中eh、e
t
、er分别表示头实体、尾实体、关系在d维连续空间中的向量表示；
[0213]
利用优化模块204得到的实体向量、关系向量，以及第二向量化模块203得到的实体类型向量，通过图卷积神经网络gcn更新相关的实体和关系的向量表示，得到最终的知识点预测结果。
[0214]
进一步地，所述知识点链接预测模块206具体用于：通过向量表示分析知识点的关联，对最开始构建的教育领域知识图谱知识点进行补充，预测知识图谱中尚未包含的知识点三元组，建立完善的教育领域知识图谱。
[0215]
综上，本发明通过利用图谱中存在的实体类型信息，依托于知识图谱本身的结构信息，对教育领域中知识点进行向量表示，在一定程度上提高了知识图谱的嵌入表示学习性能，在基于连续数值向量空间上计算的教育领域知识应用上有更好的表现。
[0216]
通过表示出来的知识点向量(即最终更新后的实体向量和关系向量)，可以对关联知识点进行链接预测，有助于得出教育领域不同知识点之间的关联性，通过向量表示分析知识点的关联，对最开始构建的教育领域知识图谱知识点进行补充，预测知识图谱中尚未包含的知识点三元组，建立完善的教育领域知识图谱。
[0217]
以上所示仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。