面向现代服务业的大规模分布式文件存储系统设计和实现

被引量 : 0次 | 上传用户:chongyou2026
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着Internet技术的发展与深入应用,互联网上的信息量呈爆炸式增长,如何有效的存储和管理这些数据成为专家学者们关注的焦点。到目前为止,对于分布式文件系统已经展开了大量的研究工作,设计实现了一批基于Linux的文件服务器来存储和管理这些数据。这些服务器通过高速的局域网络相连接组成服务器集群,对外提供高效、稳定的服务。通过对国内外比较优秀的分布式文件系统进行学习和总结,结合国家支撑计划现代服务业关键技术平台项目,论文设计并实现面向现代服务业服务基础技术平台的大规模分布式文件存储系统。文章首先从用户需求、外部接口及系统性能和可靠性需求三个方面对系统需求进行了分析,在此基础上提出了系统的总体架构。系统主要由主服务器(MasterServer)、文件块存储服务器(Chunk Server)及客户端(Client)三部分组成。Master Server主要负责对元数据进行管理,包括名字空间,文件到文件块的映射,文件块到Chunk Server的映射;Chunk Server负责管理文件块的I/O操作,根据Master Server的指令对文件块进行新建、删除和复制等操作;Client为应用端提供文件操作接口,包括文件的创建、追加、读取及删除操作。然后介绍了分布式文件系统涉及到的关键技术——主要包括实现方案、缓存设计及负载均衡算法设计三个方面。根据实际应用的需要,本系统采用共享文件系统的实现方案,在客户端主存对数据进行缓存以及通过write-through算法保证缓存的一致性。文章通过基于可配置权值的动态自适应请求调度算法实现对客户端请求和文件块分配负载均衡以及基于最小发送请求数算法实现文件块的Rebalance。最后对负载均衡算法进了测试分析。接着详细介绍了数据交互的总体架构和具体流程,主要包括文件的创建、追加、读取及删除操作。为了保证数据的可用性和一致性,本文提出了文件块拷贝、数据校验以及垃圾回收等机制。文章最后给出了系统原型实现类图并对整体性能进行了测试。在系统实现部分,介绍了基于IO流的基本数据类型的设计实现以及Master Server、ChunkServer、Client的实现类图。通过对文件的上传、下载、Chunk Server的负载情况及容错情况进行测试,测试结果基本上达到了预期效果。
其他文献
"去中心化"是Web2.0的核心理念之一。Web2.0提供了前所未有的技术支持,"去中心化"对网络文化的影响更加深刻,文化威权进一步分散化,由高度集中控制向分布集中控制转变,集中的
调节阀是各种流体装置中重要的控制设备,在国民经济各个部门中有着广泛的应用。随着市场需求的不断发展,对调节阀产品的要求也越来越高,不仅要确保调节品质,还需要降低节流能
随着计算机技术的发展,基于MIDI技术的虚拟乐器不仅能够模拟合成真实乐器如钢琴、风琴、架子鼓等单个乐器的音质,而且通过软件合成器增加复音数、改进MIDI控制等,合成出大型
对教师知识的研究由来以久,然而对“教师实践知识”的研究却是从20世纪80年代才开始的,这是一个比较新的研究课题。本文试从“什么是教师实践知识,为什么教师实践知识是教师
汉语入声字塞音韵尾在不同方言中的保留情况不尽相同。本文运用优选论的方法,对入声韵尾在广州话、北京话、苏州话、厦门话和南昌话等几种有代表性方言中的保留情况进行了初
中国舞龙运动是一项中华民族传统的文化体育活动,历史悠久、内涵丰富、社会价值高,它是中国传统文化的沉积反映和产物再现。中国舞龙运动在长期的发展过程中,融汇和吸取了诸
学科教改项目研究的主要环节是聚焦问题,问题归因,教学改进和总结提炼组成。本文在地理学科的教学改进中对这四个环节的实施要点作了展开和分析,并对每一个环节提出了策略性
新技术力量的推动产生了新媒体,从而导致信息传播方式和阅读习惯的变化,进而导致注意力经济的转变,市场的变化使传统媒介和新媒介由对立到竞合,最终寻求融合的发展,媒介形态
如何确保香港法院在基本法的框架内履行其权能,一直被视为维护"一国两制"原则的重要课题。香港高等法院关于美国FG公司诉刚果案的判决,引发了再度审视香港独立司法权的范围及
近年来,人民银行在支付结算管理和产品开发方面取得了很大成绩,依托大额支付系统、小额支付系统、全国支票影像系统和各地同城票据交换系统,各种创新支付结算产品不断推出,虽