基于并行计算的海量日志分析系统实现

被引量 : 0次 | 上传用户:xianfaxianfa
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
日志是关于系统或者软件状态的相关记录,使用日志文件可以帮助用户更好的了解系统及软件当前的运行状态。日志文件通过记录程序在运行的状态,便于在部署之后进行系统安全的维护、系统性能的优化、系统故障的排查。传统的日志工具在技术方面存在诸多缺陷,处理效率低下,无法满足日益增长的海量数据。基于并行计算的海量日志分析系统应运而生,在深入研究不同类型日志文件特点的基础上,设计并实现了一个基于并行计算,分布式存储,实时和非实时分析的海量日志文件分析系统,具有较高的研究价值。本文首先对国内外在海量日志研究领域的研究情况和发展趋势做了充分的调研和分析,在此基础上提出了一个基于并行计算技术的海量日志文件解决方案模型。该模型采用集群方式并行的收集日志、分布式文件系统进行存储、并行计算MapReduce模型针对日志进行非实时处理、ElasticSearch模型针对日志文件进行实时检索,实现了日志采集,分析的完全自动化处理,有效的解决了传统方式下日志文件处理过程中存在的问题。系统基于Hadoop海量数据的处理模型,针对自身业务即网络会议系统的需求进行设计,搭建了通用的系统框架,同时系统对外提供的服务调用,弥补了传统日志分析技术上的缺陷,用户可以针对自身的需求进行二次开发,具有很大的灵活性,进一步贴近了实际的应用场景。基于并行计算的海量日志分析系统有效解决了海量日志数据处理过程中存在的主要问题,结合并行计算模型有效的提高了日志分析的效率,在当前数据量的爆炸式增长的大环境下具有很强的现实意义和应用价值。
其他文献
夜歌是一种广泛流传于全国多个地区的丧葬歌曲。夜歌起源较早,最早可追溯至先秦时期以歌代哭的习俗。经过漫长的历史演变,夜歌已成为传统丧葬礼俗中不可或缺的一部分。夜歌在湘
<正>目前,中国正加速进入老龄化社会,面对家庭规模小型化、老年人家庭空巢化、家庭服务功能弱化以及未富先老的事实,传统的家庭养老方式已不能完全满足我国的养老现状,社会化
论文运用了文献查阅法、问卷调查法、访谈法和跟踪观察法,对临漳县第三小学实施阳光教育、打造阳光校园进行实践与探索。论文具体分四部分:绪论,介绍选题缘由和研究目的,梳理国内
美国好莱坞动画电影作为世界电影艺术殿堂里的一朵奇葩,以其独特的魅力风靡全球。本文试从技术创新、视听特色、线性叙事、传统倒置四个方面对其初探,以期多角度地了解好莱坞
随着经济的快速发展,科学先进管理理念的不断引入,物流业的发展日趋成熟,在行业标准规范和业务信息化建设方面逐渐完备。但是,在物流的各个环节上仍然存在着诸多问题,尤其是
目前世界五人制足球发展迅速,它的普及度和受欢迎程度越来越高,我国近几年五人制足球的发展较快,但是要想进一步提高我国五人制足球整体水平,就必须更加深入地了解和掌握五人
对于中国社会而言,土地承载着上千年的文化。土地的变动不仅牵引着社会的发展,更攸关着亿万农民的生活。随着城市化和工业化的发展,土地资源面临着不断流失的困境,其中土地非
综述甲状腺激素在骨质疏松发生过程中的作用 ,特别是对成骨细胞和破骨细胞的不同作用机制。甲状腺激素对成骨细胞的影响主要是通过直接与成骨细胞核受体和膜受体结合而发挥细
海子,是上世纪著名的诗人,其诗歌受到国内外广泛关注,本文将海子诗歌纳入生态视野之下,力图剖析海子诗歌中的生态思想和生态价值。文学作品对于转变人类思想价值观念具有重要作用
水是生活必需品,合理用水对人的生命健康至关重要,安全用水是人类生存的基本要求。随着社会发展和人民生活水平的提高,可用淡水资源日益紧缺的局面不容忽视,目前我国的农村饮