基于生成对抗网络数据解耦的数据平衡去毒方法
2025-02-24 20:16
No.1343678052739325952
技术概要
PDF全文
本技术涉及机器学习领域,具体为基于生成对抗网络数据解耦的数据平衡去毒方法,对数据集进行降维映射和聚类分析,得到若干数据聚类;对每个数据聚类加入对抗扰动,生成对抗数据聚类;对每个对抗数据聚类进行转移率计算和中毒样本去除,得到去毒数据聚类,并将所有去毒数据聚类组合为去毒数据集;对去毒数据集进行数据解耦和平衡处理,得到平衡数据集;基于平衡数据集,对待去毒模型进行微调训练,从而得到去毒模型。本发明能够减少训练数据的中毒样本,避免模型训练过程中学习拟合后门触发器的特征,提高模型后门攻击防御效果的稳定性和模型在实际应用中的可靠性。
背景技术
随着深度神经网络模型DNN在计算机视觉等领域的广泛应用,模型的安全性问题日益受到关注。后门攻击成为模型的一种严重威胁方式,后门攻击通过在模型训练阶段植入后门触发器,使得模型在预测节点当后门触发器出现时产生错误分类。后门攻击的隐蔽性极强,对模型的正常功能没有明显影响,一旦后门触发器出现就会产生预设的错误输出,从而达到攻击者的目的。 现有的后门防御主要包括对抗训练、模型修复和异常检测,这些方法在实际应用中都存在计算成本高、对攻击方式依赖性强、误检率高等问题。另外其他后门防御方法,如基于模型微调和特征分离的后门防御方法,虽然能够在一定程度上提高模型的鲁棒性,但其计算复杂度较高,导致训练时间长,消耗大量计算资源;还有如基于静态特征分析的后门防御方法,依赖对特定特征或模式的检测,容易被攻击者绕过,无法识别动态变化的后门攻击,导致后门攻击识别精度不高。因此,如何减少训练数据的中毒样本,避免模型训练过程中学习拟合后门触发器的特征,对提供更有效和更普适的后门攻击防御方法具有十分重要的意义。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
韩蒙  李明昊  索佳慧  刘勇  杨波  王滨  陆臻
技术所属: 浙江君同智能科技有限责任公司
相关技术
一种服务开发方法、装置、设备及存储介质 一种服务开发方法、装置、设备及存储介质
一种高精度双层优化方法的神经网络搜索架构构建方法 一种高精度双层优化方法的神经网络搜索架构构建方法
跨总线域的设备对宿主机空间DMA访问方法及相关设备 跨总线域的设备对宿主机空间DMA访问方法及相关设备
一种客户信息定期维护方法及系统 一种客户信息定期维护方法及系统
代码发布方法、装置、计算机设备和可读存储介质 代码发布方法、装置、计算机设备和可读存储介质
一种基于统一管理平台的子应用数据获取方法及装置 一种基于统一管理平台的子应用数据获取方法及装置
利用深度学习的BIM模型错误自动检测系统 利用深度学习的BIM模型错误自动检测系统
一种基于智能反射面的室内T型走廊场景路径损耗的分析方法 一种基于智能反射面的室内T型走廊场景路径损耗的分析方法
模型评估任务处理方法及装置 模型评估任务处理方法及装置
基于大数据的异常信号智能识别方法 基于大数据的异常信号智能识别方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利