论文阅读之Convolutional Knowledge Tracing: Modeling Individualization in Student Learning Process

Convolutional Knowledge Tracing: Modeling Individualization in Student Learning Process

SIGIR 2020

提出背景：

得益于Coursera和MOOCs等在线学习系统的技术进步和大规模应用，绝大多数学生已经或正在接受计算机辅助学习。

Benifiting from the technological progress and large-scale application of online learning systems, such as Coursera and MOOCs, the vast majority of students have received or are receiving computer-assisted learning.

Knowledge tracing (KT): an emerging research area under this context that aims to assess students' changing knowledge state during learning process.

• teaching students in accordance with their aptitude
• maximuming the learning efficiency of students

l Traditional methods

BKT: a special case of Hidden Markov Model (HMM)

DKT: introduces deep learning into KT, utilizing RNNs or LSTMs to model students’ knowledge state

DKVMN: introduces external memory module to store the knowledge and update the corresponding knowledge state

 问题和挑战

个性化问题：学生的先验知识不同，学生的学习速度也不同

在没有事先提供相关信息的情况下，衡量学生的个性化是非常有挑战性的。我们提出了CKT来模拟学生的个性化学习互动

模型结构：

  问题定义 一般来说，KT任务可以形式化为：给定一个学生N个学习交互的学习序列X=（x1，x2，…，X，…，X），我们的目标是评估学生在每次学习交互后的知识状态。在学习序列中，是一个有序对{et，at}，表示学习交互。这里表示在学习交互t时回答的练习，而a∈{0，1}表示该练习的答案是否正确（1代表正确，0代表错误）。

embedding:
在给定总共有M个不同练习集的情况下，我们随机初始化et∈RK作为嵌入练习，在训练过程中自动学习。因此，练习可以转化为嵌入矩阵e t∈R N×k，其中K是维数[15]。为了区分是非反应对学生知识状态的影响，受[13]启发，我们将答案值推广到与K维数相同的零向量at=（0，0，…，0），并表示学习交互作用的嵌入X t∈R2K

个体化先验知识。

• 历史相关表现：测量学生与待回答练习相关的历史表现

• 概念理解正确率：说明学生对所有知识概念的总体知识掌握情况

个性化学习率设计分层卷积层，通过在滑动窗口内同时处理多个连续的学习交互来提取学习率特征

分层卷积层的输出矩阵代表学生的知识状态。我们利用当前学生知识状态的点积和下一步练习的嵌入来预测学生的表现

目标函数：为了学习CKT中的所有参数和训练过程中的练习嵌入矩阵，我们选择预测和实际答案之间的交叉熵对数损失作为CKT模型中的目标函数，并使用Adam优化器[7]对小批量进行最小化

实验

数据集

方法比较：

• CKT-ONE with only one convolutional layer.
• CKT-HRP measures prior knowledge only from HRP.
• CKT-CPC measures prior knowledge only from CPC.
• CKT-ILR only models individualized learning rate.
• CKT-IPK only models individualized prior knowledge.
• DKT leverages recurrent neural network to assess student knowledge state [12]. We utilized LSTM in our implemention.
• DKVMN takes advantage of memory network to get interpretable student knowledge state.

实验结果

可视化知识追踪结果

练习嵌入矩阵et的学习

结论

本文提出了一种新的模式，称为卷积知识追踪（CKT）模式的学生个性化的KT任务。
本文从学生的历史学习互动（即HRP和CPC）中测量了个体化的先验知识。
本文设计了分层卷积层来提取基于连续学习交互的个性化学习率。
大量的实验结果表明，通过对学生学习过程中的个性化建模，CKT可以获得更好的知识追踪效果