论文部分内容阅读
随着信息技术的进一步发展,以及网络的大规模应用,带来了数据的爆炸性增长,也给网络存储带来了巨大的发展机会。如何构建一个扩展性强、可靠性高、易管理的高性能存储系统成为目前研究的一个重要课题。
基于对象的存储技术是存储领域的新兴技术,它提出了一种新型的存储结构,数据对象是这种存储结构的核心,数据对象封装了用户数据(文件数据)和这些数据的属性(元数据),他们分别由不同的系统管理。以对象存储结构为基础构建的大型分布式文件系统,可扩展性强、可靠性高,能提供较强的并发数据处理能力。元数据服务管理在对象存储文件系统中尤为重要,采用集群管理元数据是大型对象存储系统中的一种趋势,本文致力于研究对象存储结构中的元数据集群管理技术,所做的主要工作如下:1.分析研究基于对象存储系统的体系结构,设计并实现了一个小型的对象存储文件系统原型OCFS。
2.研究对象存储文件系统中的元数据管理,设计原型改进的文件系统OCFSⅡ,对元数据管理集群实行层次化管理,分别以目录路径索引服务器DPIS集群和元数据服务器MDS集群管理目录元数据和文件元数据。
3.在研究集群负载均衡的基础上,设计和实现OCFSⅡ元数据管理集群静态负载分配与动态反馈重分配相结合的负载均衡方案。通过静态元数据分割算法和元数据分布存储,实现元数据服务负载分流;采用动态反馈服务器负载信息,实现不均衡负载重新分配。保证元数据管理集群的负载均衡,并解决了“热点”数据访问问题。
4.设计实现了OCFSⅡ元数据管理集群可用性保障方案。目录路径索引服务器DPIS集群中采用共享容错磁盘阵列和节点容错机制解决共享存储数据和节点故障问题;元数据服务器MDS集群采用备份服务器保证服务器节点出现故障时元数据服务工作的接替和数据备份的重建。实现了元数据管理集群在单点失效和特定的多点失效情况下的容错和恢复,保证了系统的可靠性和可用性。