一种基于学生知识状态和学习能力的知识追踪预测方法

本发明涉及深度学习知识追踪，尤其是一种融合知识状态与学习能力并结合序列神经网络和自注意力技术来进行预测的一种基于学生知识状态和学习能力的知识追踪预测方法。

背景技术：

1、知识追踪是智慧教育领域的一个研究方向，有效的建立知识追踪模型，动态的捕捉学生的知识状态是一项基础性且关键性的工作，在传统教育中，学生的知识状态需要通过作业、考试等手段，并且可能还需要经过教师的统计分析，这是一项耗时耗力的工作。知识追踪可以对海量的数据进行分析，不仅可以让人们及时了解学生当前的学习情况，也可以据此为其提供个性化的指导，如推荐相关习题等。

2、近年来在大力推进教育现代化发展的情况下，越来越多的人员开始从事知识追踪的研究，在早期，关于知识追踪的研究大都是基于概率和逻辑回归的，而随着人工智能的发展，目前已经产生了许多优秀的深度学习模型。

技术实现思路

1、本发明的目的是根据学生的历史做题记录，挖掘出学生潜在的学习能力信息，提出一种结合知识状态和学习能力的知识追踪方法来预测学生答题情况，该方法能够显著提高学生答题预测的准确度。

2、实现本发明的具体技术方案是：

3、一种基于学生知识状态和学习能力的知识追踪预测方法，挖掘潜在的学生能力信息，并利用该信息提升知识状态的获取和更新，最终结合两者信息对学生答题情况进行预测，该方法包括以下具体步骤：步骤1：计算学生学习能力

4、1.1)给定学生的做题记录χ＝{(q1，r1)，(q2，r2)，...，(qt，rt)}，对题目和题目-回答交互对进行编码，将t时间步的题目编码为：

5、qt＝ct+μt·dt

6、其中qt是学生在t时间步所做题目，rt是学生答题情况，其值是0或1的二元变量，ct是题目qt所对应知识点的嵌入向量，μt是题目qt的难度向量，dt是题目qt所对应知识点的变化向量；

7、将题目回答交互对编码为：

8、at＝et+μt·ft

9、其中et是题目回答交互对(qt，rt)的嵌入向量，μt是题目qt的难度向量，ft是题目回答交互对(qt，rt)的变化向量；

10、1.2)对于每个时间步t，从历史做题记录中筛选出最近k次与题目qt具有相同知识点的练习记录，并将筛选得到的这k个题目记为其中μti是题目的难度向量，rti是学生答题情况；

11、1.3)将k个练习记录输入门控循环网络(gate recurrent unit，gru)中；其公式为：

12、

13、其中是拼接操作，μti是中第i个题目的难度向量，rti是与μti具有相同维度的全1向量或全0向量。最终得到k个输出向量[m1，m2，...mk]，将mk作为学生在时间步t时刻的学习能力mt，即：

14、mt＝mk

15、步骤2：知识状态编码

16、2.1)每个学生对于题目的难度感受是不同的，如果学生的知识掌握水平已经达到了题目的要求，就会觉得该题目相对容易；而对于那些没有达到题目要求的学生来说，就会觉得该题目是困难的，定义学生的主观题目难度为：

17、

18、

19、

20、其中tanh是tanh激活函数，σ是sigmoid激活函数，和是可学习的权重参数，b1和b2是偏置向量；qt是题目qt的嵌入向量，ht-1是学生上一时刻的知识状态，是qt与ht-1的直接差值，是门控向量，用于保留或去除中的信息。最终通过得到学生在时间步t对于题目qt的主观题目难度sdt；

21、2.2)对比学生的学习能力和主观题目难度，如果主观题目难度在学生的学习能力范围之内，那么学生就能理解题目中所包含的内容，能从该次做题中学到更多的知识；而如果主观题目难度超于学生现在的能力，那么学生在做完该题之后的收获会相应的更少一些。定义学生做完题目后的知识获取为：

22、

23、

24、

25、

26、其中tanh是tanh激活函数，σ是sigmoid激活函数，和是可学习的权重参数，b3和b4是偏置向量；at是在t时间步题目-回答交互对的嵌入向量，mt是学生在时间步t关于题目qt所对应知识点的学习能力向量，是mt与sdt-1的直接差值，是门控向量，用于保留或去除中的信息，通过得到学生的知识获取程度kat。最终通过kat·at计算得到学生的知识获取

27、2.3)将上一时刻的知识状态ht-1、t时刻获取的知识状态学生学习能力mt拼接起来输入全连接网络，通过门控机制完成知识状态的更新；其公式为：

28、

29、

30、其中表示拼接操作，是可学习的权重参数，b5是偏置向量，γt是门控值，用于自适应的结合和ht-1，ht是当前t时刻学生的知识状态；

31、2.4)使用多头注意力机制进一步计算不同时间步上知识状态的相关性，更新知识状态；其公式为：

32、m＝norm(q+multihead(q，k，v))

33、he＝norm(m+ffn(m))

34、其中m是中间输出值，he是经过注意力机制后更新的知识状态，norm是归一化操作，ffn是前馈神经网络(feedforward neural network)，q，k，v是输入注意力机制的向量，其值均为学生在各个时间步上的知识状态[h1，h2，...，ht]，multihead(q，k，v)是多头注意力；其公式为：

35、multihead(q，k，v)＝[head1，…，headh]wo

36、

37、

38、其中wo，是可学习的权重参数，dk为q中向量的维度；

39、步骤3：知识状态提取

40、3.1)将题目序列输入门控循环网络(gate recurrent unit，gru)中，获取题目序列的顺序和上下文信息；其公式为：

41、pt＝gru(pt-1，qt)

42、其中qt是题目qt的嵌入向量，pt是融合题目顺序和上下文信息的嵌入向量。

43、3.2)根据多头注意力网络提取知识状态；其公式为：

44、m1＝norm(q+multihead(q，k，v))

45、m2＝norm(he+multihead(m1，m1，he))

46、hd＝norm(m2+ffn(m2))

47、其中m1和m2是中间输出值，norm是归一化操作，ffn是前馈神经网络(feedforwardneural network)，q，k，v是输入注意力机制的向量，其值均为步骤3.1中获得的[p1，p2，...，pt]，he为步骤2.4中获得的知识状态，hd＝[hd1，hd2，...，hdt]是最终提取到的知识状态，multihead(q，k，v)是多头注意力；其公式为：

48、multihead(q，k，v)＝[head1，…，headh]wo

49、

50、

51、其中wo，是可学习的权重参数，dk为q中向量的维度。

52、步骤4：答题预测

53、4.1)将t时刻提取到的知识状态hdt、学习能力mt，与题目嵌入向量qt拼接起来后输入全连接层进行预测；其公式为：

54、

55、其中表示拼接操作，σ是sigmoid激活函数，是可学习的权重参数，b6是偏置向量，是预测的学生答对题目的概率。模型的训练采用交叉熵损失函数。

56、本发明与现有技术相比解决了现有模型只将学生的做题记录反馈为知识掌握程度的问题，学习能力信息可以更细致的建模分析学生知识获取和更新的过程，有效的提升了答题预测的效果。