(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210975454.5 (22)申请日 2022.08.15 (71)申请人 浙江工商大 学 地址 310000 浙江省杭州市下沙高教园区 学正街18号 (72)发明人 袁成武　王爵扬　王雪岭　李淑真　 徐莼　冯星宇　 (74)专利代理 机构 杭州裕阳联合专利代理有限 公司 33289 专利代理师 金方玮 (51)Int.Cl. G06F 40/226(2020.01) G06F 40/211(2020.01) G06F 16/901(2019.01) G06F 40/30(2020.01)G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 5/04(2006.01) (54)发明名称 基于深度图生成与图神经网络的事实验证 的方法 (57)摘要 本发明公开了一种基于深度图生成与图神 经网络的事实验证的方法， 包含： 获取与论述文 本c相关的证据集合E； 根据论述文本c和证据集 合E构建含语义次序的图节点序列π3； 将图节点 序列π3输入深度图生成模型D GMS生成含全局信 息的稀疏语义图； 将图节点序列π3和稀疏语义 图输入图自注意力网络模型GSNM得到分类结果。 本发明的基于深度图生成与图神经网络的事实 验证的方法， 采用的事实验证模 型生成稀疏语义 图以保留图拓扑结构信息并用于推理计算， 令语 义上无关的节点之间不存在直接信息交互的能 力， 提高了 推理效果。 权利要求书2页 说明书6页 附图2页 CN 115270767 A 2022.11.01 CN 115270767 A 1.一种基于深度图生成与图神经网络的事实验证的方法， 其特 征在于， 包 含以下步骤： 获取与论 述文本c相关的证据集 合E； 根据所述 论述文本c和所述证据集 合E构建含语义次序的图节点序列 π3； 将所述图节点序列 π3输入深度图生成模型DGMS生成含 全局信息的稀疏语义图； 将所述图节点序列 π3和所述稀疏语义图输入图自注意力网络模型GSNM得到分类结果。 2.根据权利要求1所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述根据所述论述文本c和所述证据集合E构建含语义次序的 图节点序列 π3的具体方法 为： 根据所述 论述文本c和所述证据集 合E构建一个文本序列 π1； 将所述文本序列 π1转换成嵌入序列 π2； 根据所述文本序列 π1的语义次序与所述嵌入序列 π2的对应关系构建含语义次序的所述 图节点序列 π3。 3.根据权利要求2所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述根据所述 论述文本c和所述证据集 合E构建一个文本序列 π1的具体方法为： 将所述论述文本c的文本内容 放置于所述文本序列 π1的首部； 每个所述证据集合E包含若干证据句子ei， 对所述证据集合E中的每个所述证据句子ei 进行排名； 根据排名顺序分别将每个所述证据句子ei的文本内容依次插入所述文本序列π1， 以得 到具有语义次序的所述文本序列 π1。 4.根据权利要求3所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述将所述文本序列 π1转换成嵌入序列 π2的具体方法为： 对所述文本序列 π1进行预处理； 将预处理后的所述文本序列 π1输入预训练的语言模型BIGBIRD中得到所述嵌入序列 π2。 5.根据权利要求4所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述对所述文本序列 π1进行预处理的具体方法为： 将所述文本序列 π1的中的句子之间插入SEP标识符， 再通过pad标识符进行填充， 以将所 述文本序列 π1处理成符合所述预训练模型BIGBIRD输入的形式。 6.根据权利要求5所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述根据所述文本序列 π1的语义次序与所述嵌入序列 π2的对应关系构建含语义次序的 所述图节点序列 π3的具体方法为： 通过语义角色标注 工具SLR将所述文本序列 π1中的每一个句子解析为一系列元组， 每个 所述元组内含有 若干不同类型的文本元 素； 将若干不同类型的所述文本元 素按照类型划分为若干文本元 素集合； 对于所述文本元 素集合按照所述文本序列 π1中的句子的次序进行排序；权　利　要　求　书 1/2 页 2 CN 115270767 A 2所述文本序列π1中的每一个所述文本元素， 能够在所述嵌入序列π2寻找得到相应的向 量表示， 将这些相对应的向量表示按所述文本元素 的单词个数进行平均池化处理， 并将池 化处理的结果作为所述图节点序列 π3。 7.根据权利要求6所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述深度图生成模型DGMS包含边向量生成模块、 两个多层感知机、 加权求和模块和采 样模块。 8.根据权利要求7所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述将所述图节点序列 π3输入深度图生成模型DGMS生成包含全局 信息的稀疏语义图的 具体方法为： 所述边向量生成模块从多个角度计算所述图节点序列π3内两个节点之间的差异， 并将 多个计算结果进行拼接处 理得到边向量； 两个所述深度图生成模型DGMS的多层感知机将所述边向量作为输入， 分别计算获得权 重向量α 与概 率向量θ； 所述加权求和模块对所述权重向量α和所述概率向量θ进行加权求和运算得到 图概率 向量p； 所述采样模块对所述图概 率向量p进行采样生成所述稀疏 连接图的邻接矩阵 9.根据权利要求8所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述图自注意力网络模型GSNM包 含若干个图自注意力子层、 图聚合器和多层感知机 。 10.根据权利要求9所述的基于深度图生成与图神经网络的事实验证的方法， 其特征在 于， 所述将所述图节点序列 π3和所述稀疏语义图输入图自注意力网络模型GSNM 得到分类结 果的具体方法为： 将所述图节点序列π3中的全部图节点表示视为初始节点表示H， 将所述初始节点表示H 与所述邻接矩阵 一起输入若干所述图注意力子层中对所述初始 节点表示H进行 更新； 所述图聚合器对更新后的所述初始节点表示H进行最大池化运算得到图整体表示 hfinal； 所述图自注意力网络模型GSNM的多层感知机将所述图整体表示hfinal转换为三维向量 表示， 所述三维向量表示中的每个维度代表不同分类结果的概率， 选择概率最大 的类别作 为最终的分类结果。权　利　要　求　书 2/2 页 3 CN 115270767 A 3