(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202211003944.5
(22)申请日 2022.08.19
(71)申请人 上海伯禹教育科技有限公司
地址 200030 上海市徐汇区龙腾大道 2879
号3楼3683室
(72)发明人 俞勇 张伟楠 沈键
(74)专利代理 机构 上海旭诚知识产权代理有限
公司 312 20
专利代理师 郑立
(51)Int.Cl.
G06F 16/36(2019.01)
G06F 40/30(2020.01)
G06N 3/04(2006.01)
G06N 3/08(2006.01)
G06Q 50/20(2012.01)
(54)发明名称
一种基于图神经网络的交互式知识追踪方
法
(57)摘要
本发明公开了一种基于图网络的交互式知
识追踪方法, 涉及人工智能领域, 包括以下步骤:
构建问题和知识点的关系图, 对于学生学习序列
中每一时刻的问题和知 识点, 利用图神经网络聚
合其高阶邻居特征, 并利用长短期记忆网络提取
表征后的历史学习序列的特征, 从而获得当前时
刻学生知识掌握状态的低纬向量表征。 通过注意
力机制选 择与待预测问题相关的历史信息, 并对
它们进行两两交互, 获得对目标问题的预测答对
概率。 本方法能够有效提高知识追踪预测的准确
性, 增强了自适应学习的可 行性。
权利要求书3页 说明书6页 附图1页
CN 115329096 A
2022.11.11
CN 115329096 A
1.一种基于图神经网络的交 互式知识追踪方法, 其特 征在于, 包括以下步骤:
步骤1、 构建问题和知识点的关系图G(S,Q,E), S为知识点节点, Q为问题节点, E为问题
节点和知识点节点的连边, 表示问题属于某个知识点; 基于所述关系图G中的信息, 使用图
神经网络来计算学生学习序列中每 个问题的向量表征
步骤2、 基于步骤1得到的所述学生学习序列的向量表征
使用长短期记忆网络f来提
取网络的隐状态ht作为学生知识掌握 状态的向量表征;
步骤3、 对于下一时刻待预测问题表征
其和历史信息向量计 算余弦相似度, 历史信
息包括的知识掌握状态向量表征hi和问题表征
其中1≤i≤t。 计算余弦相似度, 并选择最
相关的K个历史信息作为历史信息集 合, 记作Nh;
步骤4、 将所述 下一时刻待预测问题表征
和该问题关联的多个知识点的向量表征作
为目标信息集 合, 记作Nq;
步骤5、 对所述历史信息集合Nh和所述目标信息集合Nq中的向量表征,利用向量内积操
作进行两 两交互, 得到多层次的掌握程度预测值;
步骤6、 通过注意力机制对所有的信息交 互学习权 重ai,j;
步骤7、 对所述多层次的掌握程度预测值进行加权求和, 得到学生正确回答待预测问题
的概率pt+1;
步骤8、 使用用真实的学生历史学习数据集来端到端的训练图神网络和长短期记忆网
络, 通过梯度下降, 来 最小化预测概 率和学生真实答题标签的交叉熵损失函数。
2.如权利要求1所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 所述步骤
1包括:
步骤1.1、 对于所述关系图G中的节点 i, 随机初始化所述节点 i的向量表征, 记作ei。
3.如权利要求2所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 所述步骤
1还包括:
步骤1.2、 对所述 关系图G中的每个所述节点i, 其邻居 为有直接连边的邻居节点集合Ni,
对所述节点i以及所述邻居节点集合Ni内的节点的向量表征做均值池化操作, 更新所述所
述节点i的向量表征 ei
其中l表示聚合次数, wl,bl是可训练的网络参数, σ 是非线性激活函数, 所述非线性激活
函数为sigmo id函数,
4.如权利要求3所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 所述步骤
1还包括:
步骤1.3、 重复所述 步骤1.2多次, 对每 个节点聚合更高阶邻居的信息, 记作
5.如权利要求4所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 所述步骤
2包括:
针对每一时刻t, 将长短期记忆网络的隐状态ht作为学生知识掌握状态的向量表征; 所权 利 要 求 书 1/3 页
2
CN 115329096 A
2述学生知识掌握 状态的向量表征 更新方式为
ht=ottanh(ct)
其中Wi, Wf, Wo, Wc, bi, bf, bc, bo都是可训练的网络参数; ct是网络单元状态, 一方面保留
部分历史信息, 另一方面接收当前时刻的信息输入; 其中历史信息 的记忆由遗忘门控ft控
制, 当前时刻信 息的输入由输入门控it控制; ot是输出门控, 控制长短期记忆网络的单元状
态转化为网络输 出信息ht; σ 是Sigmoid激活函数, 即σ(x)=1/(1+e‑x), 该函数的输出值域是
0~1之间。
6.如权利要求4所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 在所述步
骤3中,
其中, hi是历史时刻知识掌握状态向量表征,
是t+1时刻待预测问题表征; 通过向
量余弦相似度, 选取和当前时刻待预测问题最相关K个历史信息 。
7.如权利要求6所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 在所述步
骤5中, 两 两交互方式如下:
向量集合Nq是包括待 预测问题表征
以及其关联的多个知识点的向量表征; Nh是步
骤6选取的相似历史信息集 合。
8.如权利要求7所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 在所述步
骤6中,
ai, j=softmaxi, j(W[fi, fj]+b)
其中W, b是 可训练的网络参数, softmax是归一 化函数。
9.如权利要求8所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 在所述步
骤7中,
10.如权利要求9所述的基于图神经网络的交互式知识追踪方法, 其特征在于, 在所述
步骤8中, 学生真实答题标签是指答对/答 错;
交叉熵损失函数为权 利 要 求 书 2/3 页
3
CN 115329096 A
3
专利 一种基于图神经网络的交互式知识追踪方法
文档预览
中文文档
11 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 SC 于 2024-03-03 12:14:07上传分享