随着网络信息技术的不断发展,越来越多智能设备接入到互联网,互联网用户和应用的激增,带来了网络流量的爆发,与此同时,各类网络安全事件也日渐频繁,这给网络空间安全监管带来空前挑战。网络流量分类技术作为网络流量工程中的重要一环,是网络异常行为检测、网络资源调度等网络任务的基础和前提,对网络流量进行高准确率的分类对于监控网络空间安全、提高网络服务质量具有重要意义。面对当前日益复杂的网络环境,传统的基于网络端口号、深度包检测和统计特征的机器学习等方法存在识别率低、适应性差、侵犯用户隐私和特征工程复杂等问题,已无法应对当前的环境需求。本文研究探索应用深度学习的方法对网络流量进行识别及分类,利用深度学习方法无需人工进行特征工程的特点,自动提取网络流量的特征,以实现端到端的网络流量分类,具有更佳的稳定性和更强的适应性。本文主要研究工作与创新之处包括:（1）针对现有卷积神经网络方法对加密网络流量特征提取不足,以及在多分类任务中性能不够高的问题,研究了基于稠密连接卷积网络的加密网络流量分类,提出了一种基于稠密连接卷积网络的加密网络流量分类方法。该方法利用稠密连接的思想构建卷积神经网络模型,加强神经网络中的梯度流动,保存更多的低纬度特征,更有效地表征加密流量深层特征。使用加密网络流量数据集“ISCX VPN-nonVPN”数据集进行训练并测试分类器性能,设计了与现有深度学习方法在分类性能和计算复杂度的对比实验。相比现有方法有着更强的分类稳定性与泛化能力,实现了更好的多类别分类效果,准确率达到98.56%,F1值达到98.55%,相比于基于一维卷积神经网络模型和ResNet模型的方法,准确率分别提升了8.88%和6.54%,F1值分别提升了8.86%和6.64%。（2）针对现有基于深度学习的恶意网络流量分类方法模型复杂、计算开销大的问题,提出了一种基于深度可分离卷积的轻量级恶意网络流量分类方法。结合深度可分离卷积改进Inception网络结构,同时利用全局平均池化替代传统卷积网络的全连接,有效降低了模型的参数量,从而构建出轻量的神经网络模型。使用公开的恶意网络流量数据集USTC-TFC2016进行训练并测试分类器的性能,同时设计了与现有深度学习方法在多分类性能和计算开销的对比实验。相较现有的卷积神经网络方法,进一步提高了部分恶意流量的识别精度,在精确率、召回率、F1值和准确率四个指标上均达99.9%以上,用轻量的浅层卷积网络实现了良好的分类性能,在现实环境的部署中有着更好的实用性。