(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202211049590.8
(22)申请日 2022.08.30
(71)申请人 重庆理工大 学
地址 400054 重庆市巴南区李 家沱红光大
道69号
(72)发明人 朱小飞 王佳
(74)专利代理 机构 重庆博凯知识产权代理有限
公司 50212
专利代理师 张乙山
(51)Int.Cl.
G06F 16/35(2019.01)
G06F 40/211(2020.01)
G06F 40/30(2020.01)
G06K 9/62(2022.01)
G06N 3/04(2006.01)G06N 3/08(2006.01)
(54)发明名称
基于多粒度融合和图卷积网络的会话情感
分析方法
(57)摘要
本发明具体涉及基于多粒度融合和图卷积
网络的会话情感分析方法, 包括: 获取会话序列;
将会话序列输入至训练后的情感分类模型, 输出
得到各个语句的情感预测标签: 通过预训练语言
模型获取粗粒度上下文信息; 其次通过各个语句
内的句法依赖关系获取细粒度句法信息; 再融合
得到多粒度的语句嵌入表示, 并输入至星图增强
的图卷积网络和有向无环图神经网络, 得到各个
语句的背景情感语句表示和交互语句表示; 进而
融合得到 各个语句的最终语句表 示; 最后基于各
个语句的最终语句表示生 成情感预测标签; 本发
明能够提取会话中的句子级特征和词级特征, 并
能够增强会话表征的现实性和可解释性, 从而能
够提高会话情感分析的准确性。
权利要求书3页 说明书15页 附图3页
CN 115374281 A
2022.11.22
CN 115374281 A
1.基于多粒度融合和图卷积网络的会话情感分析 方法, 其特 征在于, 包括:
S1: 获取包 含若干个 语句的会话序列;
S2: 将会话序列输入至训练后的情感分类模型, 输出 得到各个 语句的情感预测标签;
情感分类模型通过预训练语言模型获取会话序列中语句之间的粗粒度 上下文信 息; 其
次通过各个语句内的句法依赖 关系获取单词之 间的细粒度句法信息; 再融合粗粒度上下文
信息和细粒度句法信息得到多 粒度的语句嵌入表 示; 然后将多粒度的语句嵌入表示输入至
星图增强的图卷积网络和有向无环图神经网络, 建模会话序列的背景情感信息和会话序列
中不同说话者之间的说话者交互信息, 得到各个语句的背景情感语句表示和交互语句表
示; 进而融合背景情感语句表示和交互语句表示得到各个语句的最终语句表示; 最后基于
各个语句的最终语句表示 生成情感预测标签;
S3: 将会话序列各个 语句的情感预测标签作为 其会话情感分析 结果。
2.如权利要求1所述的基于多粒度融合和图卷积网络的会话情感分析方法, 其特征在
于: 步骤S2中, 将会话序列中的每个语句作为预训练RoBERT ‑Large模型的输入; 然后使用预
训练RoBERT ‑Large模型最后一层的池化嵌入作为对应 语句的粗粒度上 下文信息 。
3.如权利要求1所述的基于多粒度融合和图卷积网络的会话情感分析方法, 其特征在
于: 步骤S2中, 通过如下步骤生成细粒度句法信息:
S201: 通过无监督词表示方法将语句中的每个单词映射到一个低维稠密向量, 得到语
句的向量空间嵌入;
S202: 将语句的向量空间嵌入输入至双向LSTM模型, 输出语句上 下文表示;
向量空间嵌入
语句上下文表示
其中,
式中:
表示可学习参数;
表示语句的向量空间嵌入
表示;
表示经过Bi‑LSTM的语句表示;
S203: 结合Spacy工具对语句的句法结构进行抽取以形成对应的有向图结构; 然后将语
句上下文表示输入至图卷积神经网络, 结合有向图结构进 行节点之 间的信息传播以捕获到
结合了句法结构的语句表示; 经 过L层图卷积神经网络后, 得到语句的语句增强表示;
语句增强表示
其中,
式中:
均表示可学习参数; l=[1,2, …,L],l∈L表示第l层图卷积
神经网络GCN; σ 表示非线性激活函数RELU;
表示有向图结构;
表示有向图结构l ‑1权 利 要 求 书 1/3 页
2
CN 115374281 A
2层中第i个会话中第j个 语句的表示;
S204: 对语句增强表示进行最大池化, 得到对应的细粒度句法信息;
式中:
表示细粒度句法信息; PO OLING表示最大池化操作。
4.如权利要求3所述的基于多粒度融合和图卷积网络的会话情感分析方法, 其特征在
于: 步骤S2中, 通过如下公式计算多粒度的语句嵌入表示:
式中: gi表示多粒度的语句嵌入表示;
表示细粒度句法信息; vi表示粗粒度上下文信
息。
5.如权利要求4所述的基于多粒度融合和图卷积网络的会话情感分析方法, 其特征在
于: 步骤S2中, 通过如下步骤生成交 互语句表示:
S211: 以会话序列中的语句为节点构建会话序列的有向无环图;
S212: 基于有向无环图生成图注意力神经网络, 并将融合语句嵌入表示输入至图注意
力神经网络, 输出拓扑关系语句表示
式中:
表示拓扑关系语句表示;
表示可训练的参数; Ni表示
说话者之间的有向无环图中第i个说话者的邻居; ||表示拼接操作; 当l=1时,
表示注意力分数;
表示聚合之后语句的表示。
S213: 通过门控循环单元计算拓扑关系语句表示
与融合之后的节点表示
的交
互, 得到交互语句表示
然后通过门控循环单元和拓扑关系语句表示
对节点
进行
更新, 得到更新节点表示
式中:
表示交互语句表示;
表示更新节点表示; GRU表示门控循环单 元;
S214: 将交 互语句表示
和更新节点表示
进行融合, 得到交 互语句表示;
式中:
表示交互语句表示;
表示交互语句表示;
表示更新节点表示。
6.如权利要求5所述的基于多粒度融合和图卷积网络的会话情感分析方法, 其特征在
于: 步骤S2中, 通过如下步骤生成背景情感语句表示:
S221: 基于会话序列构 建会话星图, 并在会话星图中构造一个星节点, 使得会话星图中
的所有节点与星节点完全连接;权 利 要 求 书 2/3 页
3
CN 115374281 A
3
专利 基于多粒度融合和图卷积网络的会话情感分析方法
文档预览
中文文档
22 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
温馨提示:本文档共22页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 SC 于 2024-03-03 12:13:59上传分享