基于分布式索引和目录聚合的海量小文件存储研究

来源 :高技术通讯 | 被引量 : 0次 | 上传用户:Thomas1007
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对海量小文件访问问题的挑战,提出了用基于分布式索引和目录聚合的分布式文件系统——超虚拟文件系统(HVFS)来管理数十亿个小文件的方法,以支持高并发、高吞吐、低延迟的访问。重点讨论了目录索引、目录存储问题,提出了利用可扩展哈希索引来降低延迟、提高扩展性,利用日志结构和列存储的目录聚合来提高吞吐率的方法。测试结果表明,HVFS的存储性能能够线性扩展,82节点上峰值创建速度接近百万每秒,与GIGA+相比有200%以上的提升,小文件I/O性能与OrangeFS相比有60倍以上的提升,充分验证了分布式索引和目录聚
其他文献
针对传统的复接器(MUX)因没有集成时钟电路而限制了其集成度及应用的问题研究了复接器与时钟电路的集成,并采用中芯国际(SMIC)0.18μm互补金属氧化物半导体(CMOS)工艺设计并实现了一
以太原铁路局党校图书馆为例,阐述了随书光盘的特点,探讨了光盘编目,提出了对随书光盘采取外借、电子阅览、网络管理相结合的复合式管理模式。
高校加强以就业为导向的学风建设,要将学风建设与学生的中长期利益即就业利益结合起来,探索以就业为导向的学风建设的对策。
我国高校档案管理现代化建设进程中遇到各种各样的问题,如高素质的档案管理人员缺失、高校档案管理资金投入不足、档案管理标准缺失等。这些问题的出现,导致高校档案管理现代
奉献精神是中华民族的传统美德。阐述了高校图书馆在新形势下奉献精神的内涵和服务创新的内容,分析了目前服务中存在的不足,对弘扬奉献精神下的服务创新提出了新的举措。
进行了用自适应扩展卡尔曼滤波(AEKF)算法估计电动车用锂离子动力电池的荷电状态(SOC)的研究。基于混合脉冲功率特性(HPPC)试验,利用遗传优化算法改进Thevenin电路模型参数辨识方法,
以支架理论为基础,阐述了支架式教学论在大学生信息素质教育中的应用,指出信息素质教育可以在课堂教学和真实信息需求的情境中应用支架式教学指导,教师利用自身优势,引导学生
为了实现需求驱动的结构变异设计,提出了多粒度移植结构的划分与再生技术。结构变异设计是在现有零件基础上移植多粒度结构,改变零件的拓扑关系,移植结构库的构建是复杂零件结构
公路桥梁养护是城市公路建设中比较重要的组成部分,桥梁能否正常及时地养护与道路交通安全有着密切的关系。针对现有桥梁养护工作中存在的问题,提出加强桥梁养护的措施。
对地理信息系统(GIS)的基于计算几何方式的图层叠加分析方法的复杂性和低效率的问题,提出了基于栅格的叠加分析方法的实现框架,其包括三个主要步骤,即基于扫描线和游程编码的矢量