论文部分内容阅读
机器学习常用于各种分类和回归问题,其性能表现优异。在深度学习提出后,机器学习迎来了新一轮的发展浪潮。随着对抗攻击概念的提出后,人们注意到机器学习还面临着许多安全问题。通过对输入图像添加精心设计的扰动构造出的对抗样本不仅能成功攻击深度学习模型,对支持向量机等机器学习的其它模型均有影响。目前机器学习对抗攻击研究的工作主要集中在深度学习领域,鉴于支持向量机的重要性和普及型,本文提出了基于核优化的SVM防御。针对SVM分类的逃避攻击,我们提出了所谓的脆弱性函数来度量SVM分类器的脆弱性,并提出了一种基于高斯核的支持向量机核优化的有效防御策略。我们的防御方法在基准数据集上被证明是非常有效的,并且在使用我们的核优化方案后,SVM分类器变得更加健壮。本文的主要工作大致分为以下几个部分:(1)第一部分介绍了机器学习发展背景,以及机器学习中对抗攻击相关的研究现状,阐明文章研究意义。(2)第二部分介绍深度学习相关知识。通过对神经元、神经网络以及卷积神经网络的介绍,阐明深度学习模型的结构以及相关知识。介绍了对抗样本的概念,并列举出几个常见的对抗样本生成算法。然后介绍了几个常见防御对抗样本的方法。(3)第三部分提出基于核优化的SVM防御。首先介绍了SVM分类的表示方法,其次介绍了SVM分类的逃避攻击,并说明如何用核优化防御SVM逃避攻击,最后通过实验及相关数据做出具体分析,讨论基于核优化的防御能力。(4)对文章做出总结,并对机器学习中的对抗攻击和防御问题做出展望。