大数据的应用场景逐渐转化成数据中心的架构思想,即呈现计算边缘化,存储数据中心化的特点。其优势在于实现数据共享,统一存储数据格式,降低存储转换和传输成本。分布式存储系统作为底层的存储中心,面临了数据增长速度快、数据格式多样性等挑战。目前,设计分布式存储系统需要解决的三大难题包括:数据一致性、数据可靠性和磁盘负载均衡。磁盘的数据分布直接影响集群被访问的负载均衡,因此,对于分布式存储系统如何设计优秀的分布式负载均衡算法是衡量系统优劣的标准之一。本课题分析了已有的分布式存储架构,重点研究GFS、Ceph和BuleStore三款分布式存储系统的工作原理和机制,分析了它们各自的优缺点,设计出了基于Paxos算法的Crush路由表。Crush路由表是一个准随机的路由表,通过最小堆算法将文件在异构的、结构化的集群进行分布。通过最小堆算法选择最少使用的磁盘,同时确保磁盘在不同的计算机上,确保了分布式文件多副本存储的可靠性。路由表的设计目标是为了优化数据分布,并充分利用分布式存储系统资源,在磁盘设备添加或删除时,有效地组织数据,并对数据副本定位施加灵活的限制,在部分磁盘失效情况下保证数据的可靠性。为了保证Crush路由表变化时的一致性,引入Paxos算法保证Crush路由表和状态的一致性。本文重点解决了分布式存储系统的数据一致性、数据可靠性和负载均衡的问题。同时,论文将Crush路由表进行应用,设计出了高效的分布式存储系统。本分布式存储系统采用rector通信模式,引入了 EC数据压缩算法保证了数据可靠性。在实际应用中,本分布式存储系统还针对业务数据的特点,进行了慢盘规避、内存池优化、预读优化等设计。本研究在基于Paxos算法的Crush路由表的基础上,设计和实现了分布式存储系统。系统在集群内部通信方面,引入采用reactor的通信模式,在路由方面设计了 Crush路由表,引入Paxos算法保证系统的一致性,对于冷数据采用EC压缩算法,具备高可靠性、高安全性、强一致性、强容灾性、低成本等特点。针对持续压力、扩容缩容、宕机等场景下的性能和稳定性进行重点测试,测试结果表示,系统在三种场景下表现平稳。由此证明了基于Paxos算法的Crush路由表具有优秀的性能。