云存储系统中数据冗余存储策略的研究

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:chungpy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算是一种具有高适应性的分布式计算。它的主要目的是将海量数据的计算任务拆分成多个规模较小的子任务,通过深度定制的网络控制,将子任务交付于服务器集群进行实际运算,最终通过网络传输将计算结果返回给用户。云计算在发展中融合了虚拟化、负载均衡、网络存储、软件定义网络等技术,从而能够将用户对海量数据的计算和处理高效交付至大规模数据中心,实现了软硬件资源的高效整合和集中管理。云存储是伴随着云计算概念的发展而产生的。它需要支撑起云计算庞大的数据存储总量,并提供高可靠性高可用性的存储服务。Hadoop是一个由Apache基金组支持与维护的开源云计算项目。在众多的云计算框架中,由于Hadoop在不断发展下所展示的高扩展性、高可靠性和高可用性,逐渐成为了一种重要而突出的云计算框架。Hadoop的底层分布式文件系统(HDFS,Hadoop Distributed File System)则因Hadoop取得的成功,成为了云存储研究中的一个显著热点。本文针对于HDFS中的冗余数据存储方案,分析了其数据流中存在的两个主要问题:数据倾斜和随机访问。数据倾斜会使得静态数据冗余方案性能下降并造成存储资源浪费。而随机访问的发生则会显著地影响数据冗余方案的性能。在对这两大问题的深入探究后,本文提出了新的数据存储方案动态冗余异构存储系统(DHS,Dynamic Heterogeneous Storage system)。DHS在设计上,一方面结合了两种不同的主流数据冗余技术,另一方面引入了混合存储架构。本文工作的创新性体现在以下三个方面:首先同现有的存储改进方案不同,DHS根据历史访问记录提出了访问负载的概念并通过统计分析进行预测;其次DHS采用了全新的反馈存储调节机制,适应访问需求制定存储方案;最后DHS详尽考量了普通磁盘上的访问流,制定了混合存储以及竞争缓解机制,提升磁盘组整体性能。DHS能够在保证原始HDFS方案数据的高可靠性的前提下,改善其存储的服务性能,在整体上节约存储开销,从而提供高性价比的数据存储方案。本文将在对HDFS的深入剖析的前提下,分析其数据流中存在问题产生的原因和影响,详尽介绍DHS的设计理念、实现方案和技术细节,并最终通过仿真和真实部署两方面的实验,验证DHS的可靠性以及高效性。
其他文献
甲篆康养小镇的发展水平代表了目前广西康养小镇的前沿水平,是民族地区康养小镇的典型案例。甲篆康养小镇的发展取得了一定的成果,目前建立了五大支撑体系,但是也存在整体性
目的通过对脑梗塞的发生原因、病因病理、临床表现的研究,总结出最佳的护理措施。方法通过对脑梗塞患者的住院期的护理、后遗症的功能恢复期护理、恢复期的家庭护理,总结出最
会议
【目的】探寻海绵城市建设中大型地下建筑绿色屋顶蓄截雨水和减缓暴雨径流的调控依据与低影响开发应用思路。【方法】基于定性分析与定量计算相结合的方法,梳理了大型地下建
随着我国与“一带一路”国家经济贸易往来的日益紧密以及人民币国际化进程地不断加快,我国的货币政策在调控本国金融市场和防范金融风险的同时,对“一带一路”国家的外溢效应可能越来越明显。因此,研究我国货币政策对“一带一路”国家的外溢效应,明确不同类型政策工具的外溢强弱,从而减少对“一带一路”国家的负面外溢性,通过国际问政策的协调,实现区域内的合作共赢,体现我国是个负责任的大国。本文在现有货币政策外溢模型的
目的掌握云南省不同生态环境地区不同人群的弓形虫感染状况。方法选择两个典型县市作为调查点,对高危职业人群和门诊疑似病例开展调查采用研究,定性检测血清中弓形虫IgM和IgG
本课题以AE44镁合金雷达外壳压铸件为研究对象,由于雷达外壳占整个雷达系统中重要位置,其质量的好坏直接影响着信号探测的灵敏度。采用AE44稀土镁合金起到轻量化作用的同时,其优异的强度和韧性可良好地满足雷达外壳工作要求。课题通过采用数值模拟和实验研究相结合、验证的方式来寻求雷达外壳最佳压铸工艺方案,以获得优良质量的雷达外壳。由雷达外壳的形状结构、尺寸,前后设计了三种浇注方案,经分析各方案金属液的充填
提出一种新的基于广义规则的加权不精确推理模型,这个模型克服早期专家系统(MYCIN、PROSPECTOR)不精确推理模型的某些缺点,模型既考虑推理规则本身的权重,还考虑规则前提中各
将大黄微温干燥研末,用70%酒精调糊,观察了习惯性便秘、脑卒中便秘和产后便秘3组患者行大黄糊敷脐后首次排便时间。结果表明,大黄糊敷脐具有明显的缓泻通便作用,各组间首次排便时间无
本文对宝钢2号高炉煤粉喷枪的使用状况进行了初步调研和分析。选择了SUS304、SUS310、SUS310s,硬质合金YG-8、氧化锆等,将这些材料在1050-1100℃高温中,模拟高炉内风口前的气氛条件,经多次试验测定这些材料失重和增
黄曲霉毒素B1(AFB1)是目前已发现的黄曲霉毒素中毒性最强的一种,其具有强肝毒性、高致突变性和高致畸性。广泛存在于农产品及饲料食品中,对人类健康存在严重威胁,同时对粮食和