移动互联网的普及伴随着大量网络安全问题的出现,许多新型的网络攻击方式层出不穷,危机事件频发。我国互联网安全态势仍然严峻。如何应对网络攻击,保障网络安全是我们亟待研究的问题之一。面对日新月异的攻击手段,传统网络流量异常检测方法已经不适用于当前的网络环境。传统网络流量异常检测方法过于依赖对特征的人工选择,缺乏自适应性,面对新类型的异常检测准确率低;在面对海量高维流量数据时,难以有效提取其中的关键特征,满足系统实时性要求;另一方面,网络流量数据多存在类间分布不平衡的问题,使得模型检测效果具有较大的偏向性,对少数类异常检测效果较差。近些年来深度学习以其在处理复杂、大规模数据和提取流量数据内在特征方面的优异性能,已成为网络流量异常检测的一种有效方案。针对现有网络流量异常检测模型难以处理海量高维不平衡数据、误报率和漏报率高、检测实时性不强等问题。本文提出了一系列基于深度学习的网络流量异常检测方法,主要贡献包括:（1）本文提出了一种基于深度学习理论的堆叠稀疏自编码器的流量数据特征提取方法。使用堆叠稀疏自动编码器实现网络流量高维特征到低维特征的非线性映射,适用于海量数据环境下的高维特征分类任务。在UNSW-NB15数据集上的实验结果表明,优化结构的SSAE能在不损失原始流量数据间信息量的前提下有效降低数据维数,在保持分类器较高的检测水平的同时降低资源消耗。（2）针对网络流量数据集分布不平衡的问题,本文使用合成少数过采样方法（SMOTE）对原始流量数据集进行处理,调节流量数据集的类间分布平衡。实验结果表明使用SMOTE对训练数据进行过采样可以有效提升网络流量异常检测模型的F1-score,使模型的查准率和查全率达到较好的平衡,并且降低模型的FNR。（3）本文还将注意力机制集成到深度学习网络中,提出了一种基于多层注意力机制的网络流量异常检测模型。在实验数据集上的结果表明,该模型的检测准确率高达98.68%,误报率仅为1.32%,均超过同类方法。最后通过可视化直观展示了多层注意力机制在流量特征选择上的有效性,有助于今后的网络流量特征选择工作。