基于Hadoop的海量小文件存储优化方法

来源 :厦门理工学院学报 | 被引量 : 0次 | 上传用户:gongjuntao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
对基于Hadoop的海量小文件存储进行优化,利用小文件内部存在的相互联系,进行小文件的归并操作;通过索引机制访问小文件及元数据缓存,并利用相关性强的小文件预取机制提高文件的读取效率.实验发现,优化后的方法降低了Hadoop名字节点的内存消耗,减少了查询时耗,提高了系统性能.
其他文献
本文从分析信息系统开发存在的问题出发,论述信息系统开发关键技术,强调从现代管理学和计算机系统的角度建立完整信息平台的重要性、克服单纯用计算机模仿手工式管理和报表方法
10月15日,福建省人民政府发布了《福建省人民政府关于2018年度省科学技术奖励的决定》,我校共有8项科研成果荣获2018年度福建省科学技术奖,其中科学技术进步奖二等奖4项、科
鲍勃·迪伦用"风"之意象营构了情景交融而又意蕴无穷的审美空间。其笔下之风形态多样,包含悲情之风、抗议之风以及浪漫之风。丰富的风意象是迪伦不同时期反叛个性的展现以
为有效排除不同指标对性能评价产生的耦合效应,构建广义有序逻辑回归模型,采用沥青路面使用性能最直接的四大评价指标——路面损坏状况指数、路面行驶质量指数、路面车辙深度
说明文是中学语文教材中很重要的一种文体,占整个教材内容的比例较大,从社会实用价值来看,这种文体的文章越来越重要。因此,教会学生会读、善读说明文很有必要。
“全实践”理念下的实践教学的涵义所谓“全实践”.就是将学前教育专业发展全程中所有实践环节作为一个整体来系统定位、统筹安排。“全实践”理念下的实践教学是指在整个教学
教育部副部长鲁昕前不久在重庆市教育工作情况汇报会上表示,上中职中专的孩子今后有望继续学到本科甚至专业硕士,"我们正在建设这样一个体系"。她认为,职业教育当前要解决的首
为有效处理数据缺乏可比性、指标体系不健全、定性指标难以量化等情况下的战略性新兴产业优先序评价,引入专家意见和经验,将专家主观判断与量化分析相结合,利用残缺区间直觉
目前,全球范围内都对高技能劳动力的需求越来越强烈,政府与私营部门需要通过改革应对新趋势。从全球的经验来看,任何一个政府都不能单枪匹马地来满足当代市场经济对技能开发的需
标准制定者:“不需要那么多大学生”“对整个社会的健康发展而言,大学生并非越多越好,很多职业根本不需要那么高的学历”,德国联邦职业教育与培训研究所国际部主任米歇尔·沃