随着深度学习理论及相关技术的发展,深度学习模型已经广泛应用于各种实际场景中。不仅图像领域中的目标检测、图像分类、人脸识别等典型的应用场景使用深度学习模型,越来越多自然语言处理的应用场景都在尝试使用深度学习模型,如情感分析、垃圾邮件分类以及机器翻译等。但是深度学习模型在面对对抗样本时表现出很严重的脆弱性,即使在原始数据中加入一点小小的改动都会影响模型的输出。近年来,研究者通过向原始数据中加入人肉眼难以分辨的精心构造的扰动来生成对抗样本,从而实现对深度学习模型的攻击。对抗样本给深度学习技术的应用与推广带来了安全隐患。以文本领域为例,迄今为止,研究人员已经提出了多种针对不同应用场景的文本对抗样本生成方法。使用这些方法生成的对抗样本虽然能够使深度学习模型给出错误输出,但也存在着不足之处。由于文本数据与图像数据不同,包含了复杂的语法和语义信息,在原始数据上进行的修改操作很容易被人工识别,导致所生成的对抗样本隐蔽性较差。为了解决这个问题,本文提出了一种基于相似单词替换的文本对抗样本生成方法,主要研究工作包括以下几点:1.本文首先研究了原始文本中某一单词对模型分类结果影响大小的判定方法,并构建了每条文本的关键词序列。该方法兼顾了单词在文本数据中的位置,充分结合上下文信息对单词进行评分,并按照分数从高到低将其排序,排名越靠前的单词对模型预测结果的影响越大。本文使用该方法对一条文本数据中的单词进行评分,从而得到该数据的关键词序列。2.其次,本文设计了相似词替换模型,寻找和待替换关键词相似的单词,通过替换关键词生成文本对抗样本。具体而言,本文使用了多种单词相似度评分方法计算备选相似词,并利用备选相似词生成对抗样本。3.本文对生成的对抗样本的攻击成功率进行实验分析。本文设计了两组实验,使用生成的对抗样本分别攻击LSTM模型和Bi LSTM模型,验证生成的对抗样本的有效性。实验结果表明,对于yelp评论数据集,在修改文本平均长度12.5%的前提下,就能使模型的分类效果显著降低。4.最后,本文基于上述方法构建了一个文本对抗样本生成与验证系统。该系统实现了标签预测以及对抗样本生成两个功能,并通过前后端的交互展示给用户。系统可以直观地将原始数据和对抗样本之间的差别展示给用户,便于用户理解文本对抗样本的生成方法。综上,本文使用基于相似单词替换的方法来生成对抗样本,该方法通过修改较少字符将原始文本中的一个或几个单词替换为其他单词,并以此攻击深度学习模型,既避免了对单词中的字符进行修改后易被拼写检查模块识别并纠正的问题,又能保证修改程度尽可能小,具有较好的隐蔽性,并通过设计实验的方式对方法的有效性进行了验证。通过研究对抗样本,不仅仅能够对模型的安全性进行评估,使用生成的对抗样本对模型进行对抗训练还能够进一步提高模型的鲁棒性,推动深度学习模型在实际场景下的应用。