随着时代的进步和科技的发展,网络安全越来越成为人们关注的焦点。在当今时代,网络攻击规模大、类型多、变化快,网络安全问题不断攀升。因此,在大数据时代如何从海量网络流量中鉴别出异常行为是当前研究的热点和重点。针对这类问题,本文提出了一种基于自动编码器的入侵检测系统。首先,从海量网络流量包中提取网络特征,并对其进行数据预处理,为后续模块提供较好的数据。其次,对数据预处理后的数据经随机森林算法进行特征选取,选择出最佳特征。再次,根据数据的稀疏性将最佳特征分为稀疏矩阵和稠密矩阵,分别从对稀疏矩阵和稠密矩阵中的正常样本中选取部分样本,并对其特征使用AP聚类算法计算特征相似性,将其划分为若干个特征分组。最后,分别对稀疏矩阵和稠密矩阵中的正常样本建立模型,以自动编码器为基础,对正常样本进行训练计算异常得分,用K-means或GMM对异常得分进行分类。最后,通过实验对文中提出的方法进行了功能测试与性能测试,验证了系统的可信性、可行性。实验结果显示,本文方法通过特征选取和特征学习来处理训练集,从而大大减少了学习时间,基于编码器的方法有效地提高攻击检测的预测精度,相比较于传统入侵检测方法具有便于训练、适用性广、检测精度高等优势。