基于Spark的IDS报警数据聚合方法研究

来源 :桂林电子科技大学 | 被引量 : 0次 | 上传用户:mj73182
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络技术的快速发展,安全问题也越来越突出。通常,网络管理员采用多个网络安全设备同时上线工作,以应付多样化的黑客入侵方式。然而,由于各个网络安全设备工作时大多处于独立状态,很容易导致同一个攻击事件产生大量的冗余报警现象。报警数据聚合技术旨在消除重复报警数据,降低系统误报率,提高检测率,从而有利于网络管理员及时地掌握主机和网络的运行状态,也便于后续的融合和关联分析。通过改进入侵检测系统报警数据的读取方式及处理方法,并结合Spark大数据处理技术,以提高报警数据聚合方法的检测性能和效率。论文的主要创新工作如下:  面向大规模复杂网络的入侵检测系统,考虑多源的IDS报警数据,采用层次化的思想,并结合大数据并行处理技术,构建了一种基于Spark的IDS报警数据聚合系统模型。该模型既考虑NIDS的Snort报警数据,又考虑HIDS的OSSEC报警数据,将报警数据聚合系统分为报警数据采集层、报警数据预处理层、报警数据属性相似度和权重计算层以及报警数据聚合层,并且报警数据聚合层采用Spark大数据处理技术实现。依据该模型设计并实现了相应的原型系统,验证了该模型的有效性。  针对现有的网络入侵检测系统中的 Snort 报警数据聚合方法存在相似度计算可靠性不高,而且聚合效率不佳的问题,提出了一种基于Spark与角标随机读取的Snort报警数据聚合算法。该算法打破了常规的数据顺序读取方式,采用角标随机读取算法实现报警数据按月分段段内随机聚合比较,并灵活计算相邻报警数据的属性相似度。同时,结合Spark大数据处理技术加快Snort报警数据聚合处理效率。通过搭建真实数据采集平台对该算法进行了验证,并与相关研究工作进行了比较。实验结果表明,该算法有效地提高 Snort 报警聚合率和检测率,以及降低了误报率和聚合运行时间。  由于现有的主机入侵检测系统中的 OSSEC 报警数据类别属性存在不统一,导致报警数据聚合方法的聚合率不高,结合Spark大数据处理技术,提出了一种基于Spark与类别属性划分的OSSEC报警数据聚合算法。该算法摒弃了目前仅依赖时间属性来处理报警数据,而基于 OSSEC 报警数据类别属性划分实现报警数据逐层升序聚合。同时,结合Spark大数据处理技术加快OSSEC报警数据聚合处理效率。通过搭建真实数据采集平台对该算法进行了验证,并与相关研究工作进行了比较。实验结果表明,该算法有效地提高 OSSEC 报警聚合率和检测率,以及降低了误报率和聚合运行时间。
其他文献
随着国民经济的迅速发展,我国的汽车数量迅速增加。虽然我国政府在基础设施建设上加快了步伐,高等级公路、停车场越来越多,但配套的道路、车辆管理系统却显得相对滞后,仍旧停
随着通信技术的发展,全球卫星导航系统(Global Navigation Satellite System,GNSS)在不同领域正发挥着越来越重要的作用,已经成为世界各国科学家研究的焦点,所以对于GNSS卫星信号
生物识别技术是根据身体或行为特征来鉴别一个人的有效的方法,如指纹、声音、虹膜和笔迹等。依靠这些身体特征进行身份验证的技术即是生物识别技术。其中指纹识别凭借其使用方
本文针对ITS领域中的关键技术,研究了基于视频车辆跟踪的交通事件检测系统中的车辆违规检测算法。在车辆检测方法中,采用了一种对称差分和背景相减法相混合的新方法,研究了车辆
随着网络技术和多媒体技术的飞速发展,多媒体数据逐渐成为人们获取信息的重要来源,成为人们生活的重要组成部分,数字产品的版权保护和完整性认证问题显得越来越重要。数字水印技
近年来,随着计算机技术的迅速发展,在军事领域,构建分布式仿真平台在武器系统的研制、测试、验证等方面都起着关键的作用。本文针对高炮仿真系统的特点,提出了一种基于以太网
3G时代日益临近,各种新颖的3G通信增值业务呼之欲出。无论是运营商服务器端部署,还是用户终端应用,都在向IMS体系靠拢。IMS是具有全球接入独立性的基于IP标准的通信业务控制
摘要:随着我国水利行业的快速、持续发展,水利工程的投入也进入了一崭新时期,但在水利工程建设中仍然有一些不足之处,需要水利工程建设人员加以把握、控制,采取正确的施工办法和措施保证工程质量。  关键词:水利工程;质量管理  中图分类号:TV 文献标识码:A 文章编号:  近年来,国家对水利基础设施建设越来越重视。水利工程建设的重要性已被提到了前所未有的高度,随着十二五规划和国家积极财政政策的推动,进一
期刊
人工免疫系统是当前计算机人工智能领域的新兴研究热点。近年来人工免疫算法已经在控制领域取得了理想的效果,应用领域不断扩大,本课题以人工免疫系统为研究对象,探索具有可执行
超宽带这项新兴的无线通信技术具有高数据率、高带宽、低功耗、低费用和抗多径等诸多优点,目前已成为中短距离高速数据传输的首选方案。但是,由于其占用极宽的带宽,与其它通