卷积神经网络中对抗样本生成技术研究与实现

来源 :东南大学 | 被引量 : 0次 | 上传用户:zyy_2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着深度神经网络在人工智能领域中不断发展并取得优异成果,其所涉及的一些安全问题也逐渐引起了业界广泛关注,其中一类就是对抗样本攻击(Adversarial Example Attack)。攻击者通过向深度学习模型输入精心设计的对抗样本,致使被攻击模型以高置信度输出错误分类结果,这严重威胁着深度学习模型的安全性和鲁棒性。研究对抗样本生成有两大重要意义:一是能够帮助找到导致被攻击模型出现系统混乱、误判、漏判等现象的根本原因,进而研究如何改善深度神经网络的鲁棒性;二是能够激发对抗样本攻防算法和模型的研究,推动深度学习算法的发展。本文将重点针对目前主流的几种卷积神经网络,研究如何优化图像对抗样本的生成算法,具体工作如下:1.提出了将RMSProp与传统算法相结合:本文提出将RMSProp优化算法加入到传统生成算法IFGSM和IFGM中,解决了过去生成算法的三大问题:采用自适应学习率来解决梯度更新步长需要自行选择的问题;采用累积梯度平方的指数平均数来解决梯度更新方向不准确的问题;采用梯度平方的均方根来解决迭代次数不可控的问题。同时该方法可以很容易地推广到其他攻击情形中,并一定程度上缓解了在白盒攻击与可转移性之间权衡导致的折衷。2.生成了有效的无目标对抗样本:本文在L∞和L2范数约束下,分别采用RMSProp-IFGSM-Nontargeted和RMSProp-IFGM-Nontargeted算法,更加高效快速地生成两组无目标对抗样本,有效提升生成效率和综合能力。通过大量实验不断优化参数,分别在黑盒和白盒攻击条件下,对这两组对抗样本进行评估分析,系统化生成能欺骗大多数CNN的对抗样本。实验表明本文算法可为目前主流的卷积神经网络生成有效、隐蔽、鲁棒、有一定攻击强度且可迁移的无目标对抗样本,并在一定程度上提升了黑盒攻击的效果。与传统FGSM、IFGSM、MIFGSM、FGM、IFGM、MIFGM算法生成的对抗样本进行性能比较,证实本文算法在保持高攻击成功率的同时,还具有强大的可转移能力。3.生成了有效的有目标对抗样本:本文研究了同时攻击多个模型的方法,提出将多个模型组成为一个集合模型进行训练的策略,利用集合模型分别在L∞和L2范数约束下,利用RMSProp-IFGSM-Targeted和RMSProp-IFGM-Targeted生成两组有目标对抗样本。采用同无目标对抗样本类似的黑盒和白盒攻击条件进行评估分析,并同时与传统FGSM、IFGSM、MIFGSM、FGM、IFGM、MIFGM算法进行比较,验证本文算法生成对抗样本的有效性、鲁棒性、隐蔽性、可迁移性和优越性。
其他文献
近年来,消费者在利用移动智能终端进行日常工作和生活娱乐等活动的同时,也面临着个人隐私泄露的安全风险。作为市场占有率最高的移动操作系统,Android系统所受到的恶意攻击和安全威胁也最为剧烈。一些Android应用向用户索取的系统权限远大于其实现功能所必须的权限范围,而这种对权限机制的滥用不仅仅来自攻击者开发的恶意程序,也来自合法厂商开发的所谓良性程序,因而无法通过已有的恶意应用检测方法来解决这一问
快速城市化带来的诸如空气污染、热岛效应、疾病传播等生态环境问题,已经严重影响到人类的生存环境和身心健康。在此背景下,本文基于健康城市的理念和价值原则,以城市风环境要素为研究抓手,通过大数据分析,运用相关的城市设计方法,落位街区规划,切实改善城市物理空间环境的品质。论文共分六章。首先,文章基于健康城市理念和中国长三角地区的风环境条件,从安全性、舒适度、污染物扩散和热岛效应缓解等方面,确定了“平均风速
随着量子计算机的出现,基于计算复杂度的公钥密码体制下的保密通信,其安全性受到挑战。基于传统对称密钥加密的保密通信,又存在预共享密钥的存储、分发问题。而无线信道由于具有互易性,因此可将无线信道特征作为对称密钥生成的随机源,在避免密钥分发问题的同时,提供“一次一密”的安全通信,因而成为了研究热点。基于无线信道特征的的保密通信方案主要由物理层密钥生成(PKG)与保密通信两部分构成,本文主要研究PKG中的
无线通信已经在日常生活中发挥着越来越重要的作用,保障无线通信网络的安全具有重要意义。无线通信由于其开放性、脆弱性、拓扑性,极易遭受攻击,目前传统安全机制在无线通信网络安全方面发挥着重要作用。但是传统安全机制拥有明显的局限性:不适用于低功耗的网络节点设备、或被量子计算攻破、密钥分发困难。无线通信物理层安全研究为无线通信安全提供了一个新的角度,在无线通信中,通信双方的信道具有良好的短时互易性,因此可以
复杂网络拓扑结构可视化是基于图布局算法来展现拓扑结构并帮助使用者更加直观获取有价值信息的一种数据可视化技术,并且成为展示网络拓扑结构可视化的主要技术。但是,许多复杂网络拓扑结构可视化主要把关注点放在技术的实现上,忽略了用户的认知层面,导致可视化存在着许多不满足用户认知的一些视觉特征,例如连边交叉、节点重叠等,它们使得网络的拓扑结构无法很好被用户理解。因此,本篇论文从认知角度出发,对可视化进行评估和
随着互联网技术的飞速发展,各种网络空间安全问题也日益突出。验证码技术是经常用于维护互联网中人机交互安全的重要手段之一,它能通过简单的图灵测试区分当前用户为人类用户或计算机模拟的虚拟用户。文本验证码是应用最为广泛的验证码技术之一,广泛应用于网站登录等需要安全保障的环节。对文本验证码识别技术的研究是网络空间安全领域的研究热点之一。目前国内外研究者已经提出了多种验证码识别方法,但是这些方法都存在实验数据
现下我国城市的快速发展与城镇化进程取得巨大成就,区域化和多中心化进程中呈现出城市滨水引领发展的现象,同时城市发展进入生态文明建设转型的需求。但追求城市生态化发展过程频现水系与城市系统发展分离问题。部分滨水城市对水系的保护与利用方式与城市功能发展分离,抑或滨水大规模开发建设住宅致使水系生态与城市系统分离。因此,寻求城市生态化发展中有利于城市与生态共赢的发展方式尤为必要。当前国内关于水系与城市发展关系
传统的权限管理技术主要依赖于可信第三方完成权限的分配管理,数据的拥有者无法直接控制数据访问权限的授予和撤销,数据具有泄露的风险。利用区块链去中心化的特性,可以在无可信第三方的场景下实现个人自主可控的数据访问权限管理。为了实现细粒度的权限管理,现有基于区块链的权限管理实现方案通常采用密文策略属性基加密算法(CP-ABE,Ciphertext-Policy Attribute-Based Encryp
位于印度西部古吉拉特邦的艾哈迈达巴德是印度重要的历史城市之一,这座城市的产生源于古代早期城镇聚落与贸易的发展以及伊斯兰教的政治扩张,其依次经历了德里苏丹时期的城区构建、莫卧儿统治的全面繁荣、马拉塔时期的混乱不堪、英国殖民时期社会经济重整、独立以后的现代化发展等,不同时期城市发展的重点及影响因素各不相同。因此,以艾哈迈达巴德为例研究印度及南亚地区中世纪后期以来封建统治一直到当代独立共和国时期的城镇发
近年来,随着计算机技术、信息处理技术以及控制技术的不断提升,人类社会越来越向网络化、信息化、智能化的方向发展。智能电网、智慧交通、智慧医疗等各种信息化系统的提出,极大地方便了人类社会的生活方式。这些系统综合了嵌入式系统、计算机网络、控制理论、无线传感器网络等多种设施,实现了物理空间和信息空间的高效协作和互联互通,并深度融合,在此背景下,信息物理系统(Cyber-Physical System,CP