基于hadoop的网络安全日志审计系统关键技术研究

来源 :哈尔滨工程大学 | 被引量 : 0次 | 上传用户:minisnake1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网络流量日志记录着网络中发生的点点滴滴,通过分析网络流量日志可以对网络环境中的安全事件进行定位,发现网络内部用户的异常行为。现在大多数的流量异常都是实时的并且基于静态或者动态的阈值对全网进行监控,只能划定一定的时间窗口,不能对单个用户的周期性的异常做出识别和判断。因此需要离线的日志审计系统来对日志进行网络安全事件的审计。随着网络应用的增多,产生的网络日志也迅速膨胀,分布式的处理的方法被广泛的利用起来。Hadoop是一个开源分布式系统,可以用来处理海量网络日志。如何利用Hadoop进行合理的数据存储以及如何将传统的审计方法与MapReduce结合来完成审计任务成为两个亟待解决的问题。本文在对Hadoop相关技术、HBase相关技术以及传统的离群点检测相关技术的研究基础之上,在以下几个方面展开工作:首先,本文提出了一种基于IO负载的Hadoop预处理数据调度算法。为了合理的组织数据,将数据存储到Hadoop HBase中,并可以利用MapReduce进行数据的预处理工作。Hadoop HBase的原始数据调度算法是基于数据块数目的平衡,这种算法下只能保证每个Server上有基本相同的数据块个数,没有考虑数据块的利用情况。将数据块的IO负载考虑到数据调度中,可以平衡整个集群的资源利用率,缓解了某些Server的过度利用情况。最后通过实验验证了该算法的正确性和有效性。其次,本文提出了离群点检测和MapReduce相结合的审计算法。将离群点检测技术应用到网络安全日志审计场景下,利用MapReduce模型,实现对网络安全日志的统计分析。针对每个用户不同日期的相同时间段分别进行审计,弥补了实时网络流量异常审计只是针对全网流量进行审计,无法对每个用户基于自身习惯的偏离进行审计的不足。最后用实验验证了算法的可用性和正确性。最后,本文设计实现了基于Hadoop的网络安全日志审计系统,以海量网络流量日志为审计对象,利用MapReduce完成了日志预处理、审计工作。对系统的整体框架和核心模块实现做了说明。
其他文献
通过评价车间常用8种手部消毒剂的杀菌效果,为洁净车间员工手部消毒剂的选择提供依据。通过抑菌试验、悬液定量杀菌试验和现场消毒效果评估,比较了8种含有不同杀菌成分的手部
学生的学习与成长历程不仅仅停留在对课程学习成效的高与低,还应当包含对思想品德的培养以及树立正确的价值观与人生观,这既是初中学生特定的年龄阶段所限定的,同时也是当下
"抢妻"现象在元杂剧中频繁出现,直接原因是元代的统治者的腐败、残暴和骄纵贪婪,频繁出现的"抢妻"情节正是对这一社会问题的真实反映。掠夺妇女的行为历史上并不少见,但在元
[人物小记]钱宏,男,1963年出生,1983年7月进入吉林银行学校学习,是信贷专业83级4班的学生。1985年7月毕业后进入中国人民银行长春分行工作,先后做过会计员、稽核员、曾任稽核处副
60年来,《汉语拼音方案》在表音问题上屡屡被人质疑,这主要是由于对《方案》的性质及其制定原则不了解造成的,《方案》是文字性质的拼写工具,不是完全的标音工具,本身无法准
随着全球经济的发展,人力资源作为企业经营发展重要而稀缺的资源这一理念已普遍得到企业经营者的认同。人力资源不仅是可持续性、再生性资源,而且是资本性资源。在现代的经济发
在马克思主义理论体系中,人的全面发展理论是其中一个非常重要的组成部分。马克思将实现人的自由全面发展视为未来社会的理想。马克思之前的一些东西方哲学家对人的全面发展问
对体育课程传承文化命题的对话和解构,明确了体育课程内文化的工具存在转变为文化的主体存在,成为自律、自为的体育教育文化这一理性。彻底摒弃体育课程的工具意识与机制,使体育
道德是人自身发展的需要,也是人类文明进步的重要标志。而在人类不断发展的过程中,面临着众多不良因素,需要人们加强自身的道德修养和法治意识。对于初中生来说,他们的意志力