由于神经网络的出色性能和优异的表现,其已经被应用到许多领域,例如金融,医疗辅助诊断等。但是对抗样本的提出,暴露了深度学习模型的脆弱性,如果要实现深度学习模型在生产生活中的关键应用,就必须解决深度学习模型的安全性问题。目前针对对抗样本的防御,主要分为两大类,一类是对抗样本的检测,另一类是通过对抗训练来提高模型的鲁棒性。对抗样本的检测主要是对模型的输入进行检测,检测出输入数据中的对抗样本。虽然对抗样本检测可以有效避免对抗样本对于模型的干扰,但是对抗样本的生成方式比较多,很难有一种检测方法对于多种对抗样本都具有很高的检测准确率。对抗训练的方法是在模型训练的过程中加入对抗样本来进行训练,这样做的好处就是增强模型的泛化能力,从而提高模型的鲁棒性,但是传统的对抗训练方法存在很多不足,如单强度对抗训练模型只能有效抵御FGSM攻击,对其他攻击防御性不足;集成对抗训练的模型,依旧无法抵御迭代攻击生成的对抗样本;使用迭代对抗样本进行对抗训练的模型,在单强度对抗样本的攻击下又无法保证较高的准确率。本文针对对抗样本的主动防御和被动防御,主要工作和贡献如下:1.本文提出了一种混合对抗训练方法,该方法解决了单强度对抗训练和集成对抗训练无法防御迭代对抗样本的攻击以及映射梯度下降对抗训练在单强度对抗样本的攻击表现不佳的问题,并进一步基于TRADES算法,对模型分类的准确率和鲁棒性进行权衡,使得最终训练得到的模型满足了系统对准确率和鲁棒性的要求。2.针对联邦学习分布式机器学习架构,将单强度对抗训练和映射梯度对抗训练的思想进行了应用,分别提出了针对联邦学习模型的单强度联邦对抗训练和映射梯度下降对抗训练,并进行了实验验证。在此基础上,对联邦单强度对抗训练和联邦映射对抗训练进行了改进,提出了一种联邦混合对抗训练方法,使得联邦模型能够较好抵御多种对抗样本的攻击。3.针对对抗样本的检测,本文利用对抗样本和正常样本在不同场景下的差异性,提出了一种基于机器学习投票模型的对抗样本检测算法,经实验验证,该算法可以有效检测多种方式生成的对抗样本。