深度神经网络（Deep Neural Network,DNN）在计算机视觉,语音识别,自然语言处理等方面取得了巨大成功。但是由于其不透明性,使用者往往在得到决策结果时,却理解不了其预测过程,模型究竟学到了什么有效特征,如何做出预测和判断,整个过程是缺乏解释的。可解释性方法的出现改善了模型的输出内容,它会对决策结果进行“解释”。然而这些解释区域却为对抗攻击带来了有利条件。本文发现可解释性方法本能地为对抗样本的生成提供了特定区域,此外,某些可解释性方法是基于显著图（Saliency Map,SM）产生,它量化解释区域中的每一个像素点,其值的大小代表影响神经网络模型预测结果的程度。故利用解释区域限制扰动的候选区域,再通过显著图进一步细化每一个像素位置添加扰动的方式为对抗样本的生成提供了一种新的思路。基于上述调查,本文对深度学习中可解释性的安全性问题进行了以下研究:（1）本文验证了在白盒环境中利用显著图进行对抗攻击的可行性。同时,考虑到目前可解释性方法的多样性,本文提出了一种在黑盒环境下的动态遗传算法生成对抗样本。“动态”强调的是扰动像素数量和扰动值大小的变化关系,通过逐步逼近的方式找到最佳扰动像素集合,同时扰动的添加需要多轮遗传算法的支持。相较于传统的遗传算法,本文改进了适应度函数,通过解释区域的变化引导对抗样本的生成。实验结果表明,在不同的神经网络模型中该方法能够在可控的时间复杂度内以平均92.88%的成功率欺骗模型。（2）针对上述图片解释区域的对抗攻击,本文对可解释性方法的鲁棒性进行了增强。首先依据网络模型主曲率能够平滑显著图的事实,将激活函数ReLU替换成Softplus后有效降低了解释区域的变化情况。其次,利用平均梯度的思想为对抗样本提前多次加入高斯噪声的方式,显著破坏了敌对者产生的扰动集合。实验中具体讨论了超参数β,标准方差和样本数对解释区域的影响程度,结果表明,改进后所产生的解释区域在面对对抗攻击时的SSIM值提高了84%,MSE的值降低了65%,明显增强了解释区域的鲁棒性。