(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210691080.4 (22)申请日 2022.06.17 (71)申请人 吉林大学 地址 130012 吉林省长 春市朝阳区前进大 街2699号 (72)发明人 李帅　张佳亮　胡亮　李宏图　 孙成宇　 (74)专利代理 机构 北京方圆嘉 禾知识产权代理 有限公司 1 1385 专利代理师 程华 (51)Int.Cl. G16H 10/60(2018.01) G16H 30/20(2018.01) G16H 50/20(2018.01) G06F 21/60(2013.01)G06F 21/62(2013.01) G06V 10/764(2022.01) G06V 10/82(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于 半监督-迁移学习的分布式隐私保 护方法及系统 (57)摘要 本发明公开了一种基于 半监督‑迁移学习的 分布式隐私保护方法及系统， 涉及医疗大数据技 术领域， 该方法包括： 构建分布式模型； 以标注好 疾病类别的图像数据集为输入对分布式模型中 的教师模型进行训练， 得到训练好的教师模型； 将未标注疾病类别的图像数据集输入至训练好 的教师模型得到疾病类别数据集； 对多个训练好 的教师模型输出的疾病类别数据集进行加密处 理确定参考疾病类别数据集； 以未标注疾病类别 的图像数据集为输入， 以参考疾病类别数据集为 输出， 对分布式模型中的学生模 型进行训练得到 训练好的学生模 型； 将待诊断疾病类别的图像数 据输入训练好的学生模型得到待诊断疾病的疾 病类别。 本发 明能够增强分布式技术的隐私保护 性能。 权利要求书2页 说明书8页 附图4页 CN 114927190 A 2022.08.19 CN 114927190 A 1.一种基于半监 督‑迁移学习的分布式隐私保护方法， 其特 征在于， 所述方法包括： 构建分布式模型； 所述分布式模型包括 一个学生模型和多个教师模型； 以标注好疾病类别的图像数据集为输入， 对所述分布式模型中的教师模型进行训练， 得到训练好的教师模型； 所述教师模型的输出为疾病类别； 将未标注疾病类别的图像数据集输入至所述训练好的教师模型， 得到疾病类别数据 集； 对多个所述训练好的教师模型输出的所述疾病类别数据集进行加密处理， 确定参考疾 病类别数据集； 以所述未标注疾病类别的图像数据集为输入， 以所述参考疾病类别数据集为输出， 对 所述分布式模型中的学生模型进行训练， 得到训练好的学生模型； 将待诊断疾病类别的图像数据输入所述训练好的学生模型， 得到待诊断疾病的疾病类 别。 2.根据权利要求1所述的基于半监督 ‑迁移学习的分布式隐私保护方法， 其特征在于， 采用resnet ‑50作为所述分布式模型中的教师模型； 所述教师模型的分类层的类别 数为所 述标注好疾病类别的图像数据集中疾病类别的数量。 3.根据权利要求1所述的基于半监督 ‑迁移学习的分布式隐私保护方法， 其特征在于， 所述对多个所述训练好的教师模型输出的所述疾病类别数据集进 行加密处理， 确定参考疾 病类别数据集， 具体包括： 对多个所述训练好的教师模型输出的所述疾病类别数据集进行加噪， 得到多个预测分 类数据集； 对所述多个预测分类数据集应用投票机制， 确定参 考疾病类别数据集。 4.根据权利要求3所述的基于半监督 ‑迁移学习的分布式隐私保护方法， 其特征在于， 通过随机响应算法进行加噪。 5.根据权利要求1所述的基于半监督 ‑迁移学习的分布式隐私保护方法， 其特征在于， 所述分布式模型中的学生模型应用损失函数对所述参考疾病类别数据集进 行降噪； 所述损 失函数为对称交叉熵函数或标签平 滑正则化方法。 6.一种基于半监 督‑迁移学习的分布式隐私保护系统， 其特 征在于， 所述系统包括： 构建模块， 用于构建 分布式模型； 所述分布式模型包括 一个学生模型和多个教师模型； 第一训练模块， 用于以标注好疾病类别的图像数据集为输入， 对所述分布式模型中的 教师模型进行训练， 得到训练好的教师模型； 所述教师模型的输出为疾病类别； 疾病类别数据集确定模块， 用于将未标注疾病类别的图像数据集输入至所述训练好的 教师模型， 得到疾病类别数据集； 参考疾病类别数据集确定模块， 用于对多个所述训练好的教师模型输出的所述疾病类 别数据集进行加密处 理， 确定参 考疾病类别数据集； 第二训练模块， 用于以所述未标注疾病类别的图像数据集为输入， 以所述参考疾病类 别数据集 为输出， 对所述分布式模型中的学生模型进行训练， 得到训练好的学生模型； 诊断结果输出模块， 用于将待诊断疾病类别的图像数据输入所述训练好的学生模型， 得到待诊断疾病的疾病类别。 7.根据权利要求6所述的基于半监督 ‑迁移学习的分布式隐私保护系统， 其特征在于，权　利　要　求　书 1/2 页 2 CN 114927190 A 2采用resnet ‑50作为所述分布式模型中的教师模型； 所述教师模型的分类层的类别 数设置 为所述标注好疾病类别的图像数据集中疾病类别的数量。 8.根据权利要求6所述的基于半监督 ‑迁移学习的分布式隐私保护系统， 其特征在于， 所述参考疾病类别数据集确定模块包括： 预测分类数据集确定子模块， 用于对多个所述训练好的教师模型输出的所述疾病类别 数据集进行加噪， 得到多个预测分类数据集； 参考疾病类别数据集确定子模块， 用于对所述多个预测分类数据集应用投票机制， 确 定参考疾病类别数据集。 9.根据权利要求8所述的基于半监督 ‑迁移学习的分布式隐私保护系统， 其特征在于， 通过随机响应算法进行加噪。 10.根据权利要求6所述的基于半监督 ‑迁移学习的分布式隐私保护系统， 其特征在于， 所述分布式模型中的学生模型应用损失函数对所述参考疾病类别数据集进 行降噪； 所述损 失函数为对称交叉熵函数或标签平 滑正则化方法。权　利　要　求　书 2/2 页 3 CN 114927190 A 3