多子空间联合AI识别模型的对抗性防御策略
2025-02-15 10:08
No.1340263622903078912
技术概要
PDF全文
本技术提出了一种多子空间联合的人工智能识别模型对抗性防御策略。该方法通过分析输入样本在模型各节点和各层的激活值向量,将这些向量映射到不同的子空间中,以评估特征嵌入子空间的一致性。通过这种一致性判别,可以有效防御对抗性攻击,增强模型的鲁棒性。
背景技术
目前主流的深度学习网络系统是极其脆弱的。攻击者通过在源图像数据上增加人类难以通过感官辨识到的细微改变,例如仅使得几个像素点的值发生改变,但是却可以让机器学习模型接受并做出错误的分类决定。即输出错误的判别结果。对抗样本使目前世界上绝大多数基于深度学习的安防监控系统变得极其不可靠。因此增强人工智能图像识别模型的对抗防御,即识别对抗样本,使得模型不受对抗攻击意义十分重要。 由于对抗样本的可配置空间巨大,对抗攻击的攻击时机、攻击方式、攻击参数的不可预知性,使深度网络对攻击样本的甄别、防御变得十分困难。现有的单一的对抗防御方法,难以应对多样的对抗攻击。目前绝大多数对于对抗样本防御的研究基本上只针对若干种典型的对抗攻击算法,无法做到全谱系防御。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
倪冰冰  赵成龙  胡逢法
技术所属: 上海交通大学
相关技术
变压器呼吸器变色检测方法、装置、系统及电子设备 变压器呼吸器变色检测方法、装置、系统及电子设备
基于机器视觉和AR的虫害检测与管理系统 基于机器视觉和AR的虫害检测与管理系统
一种电路板的故障快速检测方法、系统及存储介质 一种电路板的故障快速检测方法、系统及存储介质
遥感影像检测方法、装置、电子设备及存储介质 遥感影像检测方法、装置、电子设备及存储介质
一种基于在网计算的流表压缩方法 一种基于在网计算的流表压缩方法
一种基于分段信道估计的通感一体化系统干扰消除方法 一种基于分段信道估计的通感一体化系统干扰消除方法
一种基于上半身姿态的驾驶员情绪状态检测方法及系统 一种基于上半身姿态的驾驶员情绪状态检测方法及系统
一种引入RBU的轻量化皮革表面缺陷显著目标检测方法 一种引入RBU的轻量化皮革表面缺陷显著目标检测方法
一种基于金字塔的SAR图像相干斑抑制方法 一种基于金字塔的SAR图像相干斑抑制方法
一种考虑多层级特征的多类别点云异常检测方法及系统 一种考虑多层级特征的多类别点云异常检测方法及系统
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利