目前,网络安全攻击已成为日益严重的全球性问题,层出不穷的网络安全事故对社会经济发展构成了重大威胁。为了保护组织和个人免受网络攻击,入侵检测技术在保证信息安全中起着重要的作用,而准确识别网络中的各种攻击是其中的关键技术,因此,对网络攻击行为分类方法的研究尤为重要。对网络攻击行为进行分类不是一项简单的任务。由于网络攻击具有多样性和可变性,现有的许多分类方法无法应对不断变化的攻击和新攻击行为的出现,分类准确率较低。同时,由于不相关或冗余特征而导致的过拟合和高偏差,以及网络攻击行为数据的不平衡类分布,使传统的机器学习方法表现不佳。针对以上问题,本论文借助深度神经网络的特征提取能力,构建网络攻击行为分类模型和方法,以提高攻击分类的有效性和对新攻击的识别能力。主要工作包括:(1)针对网络攻击行为原始数据类型复杂且维度较高的问题,将深度学习运用到攻击行为分类中。通过比较不同深度学习方法,提出使用自编码器对原始网络数据进行特征学习。利用自编码器对数据的重构能力,通过叠加自编码器建立深度网络,以获取输出数据的低维深层次的抽象特征表示。针对深度网络在训练过程中存在的训练速度慢、泛化性差以及容易出现过拟合的问题,选取Re LU激活函数并引入数据规范化、正则化的思想,实现了网络训练过程的优化。(2)在堆叠稀疏自编码网络模型的基础上,提出一种基于组合特征学习的网络攻击行为分类模型。首先对堆叠自编码网络进行预训练,得到的不同层次级别的特征表示,然后利用这些特征集合训练多个分类器,并对多分类器决策融合得到最终的分类结果。理论分析和实验证明,所提出的方法可以充分利用深度神经网络训练所得的特征,能使特征接近于数据本质,符合分类任务目标的要求。相对于其他方法,构建的分类模型在分类性能上有所提升。(3)针对堆叠自编码网络没有充分考虑类别特征影响的情况,提出了基于增强类别特征学习的网络结构。将类别特征的约束加入到自编码网络的训练过程中,使学习到的特征在相同类别上具有相关性信息。在此基础上考虑不均衡分布样本的影响,通过改进损失函数调节模型的训练方向,使模型更关注于难分类小样本上。实验结果表明,利用该模型所提取到的特征类内中心损失降低,特征具有更强的区分能力,在整体分类效果提高的同时,对小样本攻击行为的判别准确率也有所提升。