近年来互联网的发展日新月异,对网络流量加密成为了保护网络安全的重要手段,为了进一步改善和优化网络环境,如何准确的分类和识别这些网络流量成为了学术研究热点。本文为了优化半监督网络流量分类系统的分类性能,设计了一种基于生成对抗网络的半监督网络流量分类系统。针对数据不平衡问题,提出了基于约束的数据增强算法。本文主要研究内容如下:（1）设计了一种基于生成对抗网络的半监督网络流量分类系统。该系统中的半监督网络流量分类模块的分类模型综合考虑了网络流量的空间组织结构和时序特性,将循环神经网络与卷积神经网络相级联构成判别器网络,并通过L1正则化和Dropout防止模型过拟合。实验仿真确定了最佳的流量表征长度,仿真结果表明本文所提出的半监督网络流量分类系统在10%的带标签数据时的分类准确率比全监督分类模型二维卷积神经网络和C4.5分别高11%和7%,在10%的带标签数据时,该模型比基于深度卷积生成对抗网络的半监督分类模型高了5%,在30%的带标签数据时高了6%,在50%的带标签数据时高了5%,另外在恶意流量数据集上验证了该模型的泛化能力,在UTSC TFC2016的三种类型流量数据集上的分类准确率和F1值均达到了0.99。（2）提出了一种基于约束的数据增强算法。针对数据集不平衡问题,利用（1）中所提出的半监督网络流量分类网络的结构特点和改进的Tomek Link约束对少数类的样本流量进行数据增强,从而改善分类模型对少数类别流量的分类性能。仿真结果表明,基于改进Tomek Link约束的数据增强在对少数类的增强强度为10时,即少数类样本与多数类样本数量比例近似为1时,其分类准确率比无数据平衡处理的提高了1.32%,少数类的F1值平均提高了10%。综上所述,本文所提的基于生成对抗网络的半监督网络流量分类系统和基于约束的数据增强算法,对半监督网络流量分类的准确率和少数类流量的查准率和查全率上均有提升。