(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211044168.3 (22)申请日 2022.08.30 (71)申请人 湖州师范学院 地址 313000 浙江省湖州市吴兴区二环东 路759号 (72)发明人 王瑞琴　蒋云良　楼俊钢　 (74)专利代理 机构 杭州中利知识产权代理事务 所(普通合伙) 33301 专利代理师 韩洪 (51)Int.Cl. G06F 16/9535(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于轻量级图卷积注意力网络的用户偏好 建模的方法 (57)摘要 本发明提出了一种基于轻量级图卷积注意 力网络的用户偏好建模的方法， 包括以下步骤： S1.使用仅具有邻域聚合的轻量级GCN来建模静 态用户偏好； S2.使用基于最近交互项的时间感 知GAT来建模动态用户偏好； S3.将静态用户偏好 和动态用户偏好相结合， 输入双通道深度神经网 络模型， 进行特征交互学习和匹配分数预测。 该 发明能够以端到端的方式同时捕获用户的静态 和动态偏好， 通过使用不同的GNN方法能够有效 地捕获静态和动态用户偏好， 该方法显著优于目 前最先进的推荐方法。 权利要求书4页 说明书14页 附图3页 CN 115438258 A 2022.12.06 CN 115438258 A 1.基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特 征在于： 包括以下步骤： S1.使用仅具有邻域聚合的轻量级GCN 来建模静态用户偏好； S2.使用基于最近交 互项的时间感知GAT来建模动态用户偏好； S3.将静态用户偏好和动态用户偏好相结合， 输入双通道深度神经网络模型， 进行特征 交互学习和匹配分数 预测。 2.如权利要求1所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 该方法的实现基于时间感知的轻量级图卷积注 意力网络LightGCAN， 包括： 输入层、 嵌 入层、 表示层、 交 互层和输出层； 所述输入层包括两个矩阵： 用户 ‑项目交互矩阵 和交互时间矩阵 其中 m和n分别表示用户和项目的数量， R是一个隐式反馈矩 阵， 如果用户u和项目i之间存在交 互， 则rui＝1， 否则rui＝0， T通过时间戳记录了用户和项目之间的交互时间， 其维数与R相 同， 所述输入层提供了用户 和项目的初始特征表示 和 xu、 xi均为多热向量， 分别对应于R的第u行和第i列； 所述嵌入层为全连接层， 用于将稀疏的用户 和项目表示转换为稠密的潜在嵌入表示， 进而被用作用户偏好建模表示层的输入； 所述表示层包括两个GNN模型： LightGCN和TGAT， 分别用于静态和动态的用户偏好建 模， 将得到的静态和动态用户偏好进行组合并送入交 互层， 进行高阶特 征交互学习； 所述交互层包括两个DNN模型： DMF和MLP， 用于根据不同的深度学习策略学习不同的特 征交互， 最后将获得的特征交互向量串联起来送到输出层， 进行用户 ‑项目匹配分数的预 测。 3.如权利要求2所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 所述基于时间感知的轻量级图卷积注意力网络LightGCAN的注意力 元素包括当前用 户、 目标项、 最近k个交 互项和交 互时间。 4.如权利要求2所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 所述基于时间感知的轻量级图卷积注意力网络LightGCAN的超参数包括潜在 因子的 数量、 最近交 互项的数量以及DL模型中隐藏层的数量。 5.如权利要求2所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 所述DMF和MLP模型的隐藏层数均设置为3层。 6.如权利要求1所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 步骤S1中， 使用轻量级的GCN模型LightGCN进行静态用户偏好建模， LightGCN只保留 GCN中的邻居聚合操作， 无 特征变换和非线性激活两项操作。 7.如权利要求6所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 步骤S1中， 静态用户偏好的建模过程包括以下步骤： S1.1轻量级图卷积： 第k+1层的用户嵌入被定义基于加权求和的聚合操作： 其中， 和 分别表示用户u和项目i在第k层的嵌入表 示， Nu和Ni分别表示用户u和项权　利　要　求　书 1/4 页 2 CN 115438258 A 2目i的邻居节点； 用作归一化项； 需要学习的超参数是第一层的用户和项目嵌入， 高层的用户和项目嵌入通过以上迭代过程逐层自动学习得到； 第一层的用户和项目嵌入表示 为： 其中， Wu和Wv分别表示将用户和项目的初始特 征向量转换为潜在嵌入表示的权 重矩阵； S1.2层聚合： 经过K层轻量级图卷积运算后， 生成K个不同的用户/项目嵌入， 每层的嵌 入表示不同的潜在语义信息； 将每一层的嵌入结合 起来， 生成目标用户/项目的嵌入： 其中， 和 分别表示静态用户偏好和项目特 征； αk≥0表示第k层嵌入的重要性权 重。 8.如权利要求7所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 所述 步骤S1.2中， 将αk设置为1/(K+1)。 9.如权利要求1所述的基于轻量级图卷积注意力网络的用户偏好建模的方法， 其特征 在于： 步骤S2中， 动态用户偏好的建模过程包括以下步骤： S2.1将当前用户、 目标项、 最近交互项和交互时间的嵌入表示组合起来， 输入注意力网 络； 注意力网络负责学习最近交 互项对于用户动态偏好建模的重要性权 重： 其中， Wk和bk分别表示注意力网络第k层的权重矩阵和偏置向量； bk表示注意力网络的 层数； σ(·)表示激活函数； eu,ev, 和 分别表示当前用户、 目标项、 最近交互项和交互时 间的嵌入， xj是将上述四个嵌入连接起 来得到的组合向量， 用作注意力网络的输入； S2.2将历史交互项的交互时间距离当前时间的时间间隔进行划分， 然后经过线性变换 得到交互时间的嵌入表示： tsj＝min((T‑tj)/60, δ ) 其中， tj表示当前用户与 项目j的交互时间， T是预测时 的当前时间， tsj表示交互时间和 预测时间之间的时间间隔， min函数用于设置时间间隔的阈值为δ， Wt表示时间嵌入的变换 矩阵； S2.3通过softmax函数对注意力系数进行归一 化： 其中RKu表示用户u的最近k个交 互项； S2.4用户动态偏好向量被建模为当前用户最近k个交 互项的嵌入表示的加权和： 其中 和 分别表示用户u和历史 交互项j的嵌入。权　利　要　求　书 2/4 页 3 CN 115438258 A 3