面向目标检测的对抗攻击方法研究

来源 :杭州师范大学 | 被引量 : 0次 | 上传用户:wskiqpk
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着深度学习的发展,基于深度学习的目标检测技术在航天航空、工业生产、日常生活等场景下大放异彩,取得了不菲的成绩。然而,有研究表明深度学习驱动的目标检测技术容易受到对抗样本的攻击。当对输入图片以某种算法产生扰动并加在原图上时,尽管在人看来是没有任何变化的,但是输入到目标检测模型时,却会得到错误的输出结果。对抗样本的出现对目标检测技术的实际应用产生了巨大的隐患,在一些敏感的关键场景。比如自动驾驶,如果受到对抗样本的攻击可能会造成巨大的生命和财产损失。因此,保证目标检测模型的鲁棒性至关重要。为了探究对抗样本对目标检测模型鲁棒性的影响,本文对目标检测的对抗攻击方法进行了研究。主要工作包括:(1)对现有的目标检测对抗样本攻击算法进行了调研和综述。以不同攻击算法对目标图像像素修改的数量以及攻击的检测器类型作为分类基础,介绍了不同算法的攻击特点和流程,并从攻击类型、扰动范围等六个方面进行了比较分析。接着从攻击形式、攻击对象以及攻击类型出发对当前目标检测的攻击算法的发展规律做了总结并指出当前目标检测领域对抗攻击研究所面临的两个挑战。第一个挑战是现有的目标检测对抗攻击方法在生成时间和攻击成功率上还无法同时达到比较好的效果。第二个挑战是对抗攻击方法的可迁移性差。(2)针对现有对抗样本攻击算法在攻击时间和攻击成功率上还没有达到比较好效果的问题,提出了一种基于生成对抗网络(Generative Adversarial Networks,GAN)的目标检测对抗攻击方法——LGAA(Low-frequency Generative Adversarial Attack)。LGAA使用条件生成对抗网络作为基础网络,同时引入目标检测模型和特征提取网络作为辅助训练网络:目标检测模型用于输出对抗损失,使得GAN生成的对抗样本可以攻击检测模型;特征提取网络提取中间层特征损失,能有效提高对抗样本的攻击性。同时在GAN的生成器后接入高斯滤波模块,对生成的扰动进行高频扰动去除操作,能留下更有效的低频扰动以提高生成的对抗样本的攻击性。实验结果表明,LGAA相比于其他的基于梯度的攻击方法在生成时间上提高了10倍甚至百倍的速度,在攻击成功率上达到97.8%,同时生成的图像质量在L2指标上也取得了较好的结果。(3)针对现有攻击方法可迁移性差的问题,提出了一种结合低频信息和特征的目标检测对抗攻击方法。在传统的基于梯度的对抗攻击方法上,添加特征图损失来增加对抗样本的可迁移性,同时引入低频对抗损失,使得生成的扰动集中在对模型决策影响较大的低频区域。此外,方法使用基于梯度的类激活映射技术生成包含图像关键特征的注意力权重矩阵,对生成的对抗扰动做进一步的优化,来调整扰动生成的范围,使得扰动集中在更关键的特征处,从而提高对抗样本的可迁移性能。实验结果表明,本文所提的方法与现有的攻击方法相比,不仅在白盒攻击性实验中达到100%的攻击成功率,同时在跨模型攻击单阶段检测网络时,本文方法的攻击成功率更高,迁移性更好。
其他文献
在提出双碳目标的背景下,为了确定全国主要农作物秸秆露天焚烧碳排放量,为中国秸秆焚烧监管和大气空气质量分析提供数据支撑,助力碳减排。本文依据2011-2020年七大类农作物产量,结合草谷比算出了全国农作物秸秆资源量,由各省农作物焚烧比例得出秸秆露天焚烧量,根据CO2,CO和CH4的排放因子推算含碳化合物排放量,进而得出全国各省秸秆露天焚烧碳排放量统计清单。结果表明,十年中秸秆年均资源量为9.11×1
会议
文本是信息传播的重要媒介,文本数据主要包括文档文本和图像文本两种形式。因自然语言的表达多样性,文档文本复杂多样且充斥着大量冗余信息,如何从中真正地理解文本语义并提取有效信息,成为了国内外研究者们的研究热点。随着自然语言处理和深度学习研究的不断发展,针对文档文本逐渐发展了基于深度学习的文本相似度匹配和文本蕴含识别两个重要研究方向,分别面向文档文本之间的相似关系和蕴含关系进行有效推理。图像文本也广泛存
学位
社会阶级、阶层理论一向是我党在进行革命与建设时运用到的重要理论依据。我党领导人在战争时期灵活运用马克思主义阶级分析方法,最终带领着广大无产阶级取得了革命的胜利。改革开放以来,随着以经济发展为核心的基本路线落实,我国的社会结构发生了巨大变化,阶层在不断地分化与重组,阶级与阶级斗争的理论对于当代中国社会结构的解释力已减弱。因此,要对马克思主义阶级理论进行与时俱进的发展,将阶级分析引进到阶层分析中,运用
学位
本文以春秋时期政治思想的衍变为中心,将“天”和“人”对举,考察春秋时期天人关系论在历史和现实中的影响变化及其意义,从宏观的历史线上和微观的著作线上对春秋时期的天人关系论进行双向探讨。第一章和第二章主要论述周人以其具有农业文明色彩的“天”之信仰,代替殷人“帝”之信仰,以礼乐文化取代了祭祀文化。周公为代表的周初政治家、思想家把“德”作为连接“天命”与治权的媒介,要求统治者“敬天”的同时,注重人事。提出
学位
基于深度学习的高性能人体姿态估计模型往往需要庞大的计算资源以实现精确的姿态估计效果。若要获得一个轻量化的高精度姿态估计模型,一种可行的方式是采用知识蒸馏技术,即将高性能教师模型中的姿态知识蒸馏到轻量化的学生模型中,将蒸馏后的学生模型用于部署。但是,目前姿态估计任务的蒸馏方法存在明显缺点,其需要利用繁重的姿态估计模型作为教师进行复杂的两阶段知识迁移,严重降低了模型的训练效率。本文提出了一种新的在线知
学位
从古至今,“养生”始终是全体人类追求的永恒课题。然而,养生的观念绝不能停留于外在肉身的养护与调适。心灵之和谐,乃至于身心合一的健康更为重要。“养生”思想在先秦哲学经典著作《老子》中便已初见端倪,以《老子》为代表的道家及其流衍道教,对中国养生文化的形成与影响更为深刻。对《老子》养生思想的深层研究与解读,有助于当代人重树健康养生观,领悟道法自然,顺遂自性,节制伤生之行。本文除绪论与结语外,从四个方面展
学位
随着物联网技术的快速发展,无线网络技术广泛应用于医疗、军事、农业等领域,大量的传感器部署在目标领域来采集数据,但是传感器具有低计算能力、低存储容量以及容易被捕获等特点,而且消息在无线信道传输,与传统的有线网络相比容易遭到如截获、篡改、重放、伪造等攻击。为了保护用户的隐私和数据的安全,设计安全和隐私保护的物联网认证协议具有重要的作用。本文主要研究一般的无线传感网络和车联网无线传感网络的两种物联网认证
学位
“良知”与“致良知”是王阳明哲学的核心命题,也是王阳明心学体系的两个十分重要的支撑点。本文主要从个体道德建构的维度,对王阳明“良知”和“致良知”的思想体系进行较为深入的分析,一方面从学理上对王阳明思想作出阐释,另一方面也为当下中国人的个体道德建构提供一些启示和借鉴。个体道德的实现奠基于个体道德的建构。个体道德从结构上来说,既包括个体道德意识,也包括个体道德行为。王阳明首先将个体道德意识规定为“良知
学位
车联网中车-车(Vehicle-to-Vehicle,V2V)通信是保障大量车载应用正常提供服务的基础,如交通管理、事故警报和商业广告等。然而由于车联网开放的通信环境,参与V2V通信的节点的安全性无法得到保障,导致恶意节点可以通过篡改和丢弃V2V数据包的方式破坏车联网服务。另外,由于车联网中存在大规模快速移动的节点和复杂的道路环境,使得车辆分布不均匀而加剧广播风暴问题,这会提高丢包率并降低车联网服
学位
“异化”一词尽管属于“舶来品”,但是异化现象却是实实在在地一直存在于中外人类文明发展史之中。随着马克思主义成为中国的政治指导思想,其异化观亦成为备受关注的哲学问题。而中国哲学发展史中的道家哲学,其所蕴含的反异化思想,尤其是《庄子》中所蕴的深刻反异化思想,就有深入探究的理论意义与现实意义。首先,本文就《庄子》对世界本来是怎样的,即其“本真”问题予以论述。“物”由“道”生,故而“物”的本然状态也应该是
学位