随着网络通信技术的日益成熟、网络规模的不断扩大,网络安全具有越来越重要的意义。网络流量数据的异常检测和分类成了维护网络安全的一种重要手段,近年来受到越来越多的关注和研究。但目前网络流量数据异常检测和分类的研究中存在着数据量大、数据分布不平衡、传统的异常检测和分类方法准确度较低等问题。自编码器是深度学习领域中重要的神经网络,由于其出色的特征提取能力而被广泛研究用于数据的异常检测和分类领域,本文主要针对以上问题进行基于自编码神经网络的网络流量数据异常检测和分类的研究。本文主要研究内容如下:（1）针对网络流量数据规模较大、异常检测效果较差的问题,本文提出了一种结合马氏距离和自编码器的网络流量数据异常检测方法。使用训练数据集中正常数据的均值和协方差矩阵计算数据的马氏距离倒数,通过判别阈值可快速判别出部分正常数据以减少训练数据量;同时将马氏距离倒数加入到数据特征中,提高了异常检测效果;构建多隐层自编码神经网络,提高了对于网络流量数据的特征提取能力;将自编码器与分类器结合,避免网络陷入局部最优的风险。在CICIDS2017及NSL-KDD数据集上进行了实验验证,实验结果表明,该方法较其他方法具有更好的网络流量数据异常检测效果。（2）结合马氏距离和自编码器的网络流量数据异常检测方法中,模型构建较为复杂,且数据分布不平衡的数据集不利于自编码神经网络的训练,于是本文提出了一种基于改进变分自编码神经网络的网络流量数据异常检测方法。通过添加马氏距离度量项改进变分自编码器,以期望重构生成马氏距离相近的网络流量数据,该变分自编码器对网络流量数据的特征提取及数据生成能力更有利于网络流量数据异常检测;使用变分自编码器结合分类器构建变分自编码神经网络进行网络流量数据异常检测,模型的构建较为简单;为减小数据分布不平衡的数据集造成的影响,调整了自编码神经网络的交叉熵损失函数中各项的权重。通过在CICIDS2017及NSL-KDD数据集上进行相关实验验证,该方法进一步提升了网络流量数据异常检测效果。（3）为减小数据分布不平衡对分类网络训练时的影响、提高分类准确度,本文提出了一种基于条件变分自编码器的网络流量数据分类方法。通过条件变分自编码器生成特定类别数据以平衡训练数据集,使分类网络获得更好的训练效果;将马氏距离加入到数据特征中,有利于网络流量数据分类效果的提升;构建用于结合分类网络的条件变分自编码器,利用其推断网络结合分类网络构建网络流量数据分类模型。在CICIDS2017及NSL-KDD数据集上进行了实验验证,实验结果表明,该分类模型较其他方法具有更好的网络流量数据分类效果。