随着互联网技术的不断发展,网络用户的安全意识不断提升。为了保护用户的隐私、满足网络安全的需求,通信过程中需要对网络流量进行加密,加密流量相关技术逐渐成为研究的热点。本文以机器学习为基础,针对异常加密流量识别率低(尤其是恶意软件的相关识别)、正常动态网页流量识别效果欠佳的问题展开研究。具体工作包括以下几个方面:(1)提出一种基于RF-PSO特征提取的异常加密流量识别方法。该方法使用了全新的特征选择算法RF-PSO算法,将Relief F算法与粒子群优化算法相结合。首先通过Relief F算法给多个特征分配权重,根据权重大小选取分类能力较强的特征组;接着对特征进行降维处理以减少粒子空间搜索的计算量;然后在此基础上使用PSO算法消除特征组中的冗余特征,得到最优特征子集;最后使用XGBoost分类算法识别正常加密流量和异常加密流量,并区分异常加密流量所属的恶意软件。实验结果表明,该方法能够有效区分正常加密流量和异常加密流量,与基于多粒度特征的异常加密流量识别方法相比,恶意软件的识别准确率有所提高,对于不同的恶意软件具有较好的分类效果。(2)针对web指纹识别在正常动态网页流量上的应用,提出了基于特征增强的VPN流量WEB指纹识别方法。根据流量密度的激增时间,引入新的特征流量激增周期和小波变换,使用LightGBM算法进行分类。实验结果表明,新特征的使用可以弥补静态和动态网站之间的指纹性能差距,指纹识别技术在动态网站上的识别率从原来的90%提高到了96%。本文创新性地提出两种加密流量特征提取的方法,分别从在异常加密流量中识别恶意软件和在动态网页中识别正常加密流量两个方向进行实验,实验结果表明两种方法都具有较高的识别准确率。