基于MapReduce和编程方式的ETL框架研究与应用

被引量 : 12次 | 上传用户:alex851123
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机及互联网技术的快速发展,许多企业内部逐步实现了业务的计算机化管理,积累了大量的历史业务数据,而且数据量还在快速增长。越来越多的企业使用数据仓库技术对业务数据进行汇总、处理和分析,ETL过程是构建数据仓库的关键环节。ETL工具能否方便用户灵活地实施ETL解决方案直接影响到数据仓库解决方案能否顺利实施,ETL处理的效率直接影响数据装载的效率。针对该问题背景,本文主要研究工作如下:(1)分析MapReduce和ETL目前的研究现状,阐述了本文的研究意义,对维度数据ETL、事实数据ETL、ETL处理模型、渐变维度和MapReduce编程模型分别进行了深入分析与研究。(2)设计一个基于MapReduce和编程方式的ETL框架。首先,对ETL的整体架构进行设计;其次,对维度数据ETL模块和事实数据ETL模块进行了详细设计;最后,对维度数据的索引结构进行了设计,优化了MapReduce中数据块的分配算法。(3)对Hive提供的ETL和本文设计的ETL在大数据处理方面的执行效率和易用性进行了测试和分析。该ETL编程框架可以辅助ETL编程人员灵活地实施ETL解决方案并高效率地完成ETL分布式处理程序。最后的实验表明,本文设计的ETL编程框架不仅易用,而且比Hive的ETL在数据处理时间上要减少70%左右。
其他文献
采用铸造模拟分析软件对不同冒口高度的13500 kg钢锭的凝固过程进行了计算机模拟分析,并预测了钢锭的缩孔缺陷的分布。结果表明,原来生产过程中钢锭冒口高度下的缩孔深度较大
商合伙作为介于商个人和商法人之间典型的"人合性"商人,在现代市场经济国家已成为一种被广泛运用的市场主体形态.但商合伙类型理论及立法表现繁多,不宜判别.就此结合理论及中
电子式电流互感器已经成了国内外研究的热点,其中有源电子式互感器高压侧电路的供能问题则是研究工作中的关键技术.笔者首先简要地综述了电子式电流互感器的发展,然后重点介
油田进入注水开发后期,由于低渗透裂缝性油藏储层天然裂缝非常发育,同时存在人工裂缝,使得油井含水急剧上升,产量迅速下降,油藏采出程度较低。通过查阅国内外文献调研得出,目前还没
“滴水之恩,当涌泉相报”自古以来就是我们中华民族的传统美德。然而,在大力构建和谐社会的当今,这种源远流长的感恩情怀与传统美德,在年青一代中似乎渐渐成为一种淡薄的意念
目的:1.探讨德尔菲法是否适用于儿童体质分型标准的研究;2研究德尔菲法在儿童体质分型标准修订中的作用。方法:在文献研究及前期临床研究基础上编撰二轮临专家调查问卷,发送给国
沟通如桥,帮助过往的人车安全到达对岸,帮助教师与家长很好地了解学生,正确有效地解决学生所面临的问题。
保辜制度是我国古代的一种刑法制度。它悠久流传,其存在对于缓和社会矛盾,解决纠纷,维护社会和谐曾起过重要的作用。保辜制度经历了近千年的历史发展,对于古代及现代的刑法发
民族团结教育是高校思想政治教育的重要内容。从心理学角度来看,高校民族团结教育是促进大学生知、情、意、行协调发展的过程,也是促进大学生人格不断完善的过程,因此,高校应
绿道网是当前我国规划建设领域的一项热点工作。但在取得初步成效的同时,还存在生态性不足、功能业态单一、基础设施缺失、绿道特色及活动组织欠缺等普遍性问题。笔者从绿道