面向稀疏矩阵运算的异构并行算法研究

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:z992070002
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
异构高性能体系结构已经成为高性能计算领域越来越流行的一种架构,极大的推动着当今社会大规模科学与工程领域计算的进步。稀疏矩阵运算是大规模科学与工程领域计算的非常重要的一种操作,但是由于稀疏矩阵运算是一种典型的不规则运算,严重限制着异构高性能体系结构计算性能的发挥。这主要是由于,一方面,稀疏矩阵运算的程序行为是由矩阵的稀疏结构确定的,不同应用所对应的稀疏矩阵的稀疏结构不同,难以发掘其中的局部性,另一方面,由于稀疏矩阵的压缩存储导致大量的间址访存和随机访存,从而系统的访存带宽成为稀疏矩阵运算的性能瓶颈。为了应对这些问题和挑战,本文以稀疏矩阵运算为背景,研究如何充分利用异构体系结构中的计算资源和访存带宽提高稀疏矩阵运算的性能,主要工作和创新点如下:(1)提出了面向异构体系结构的稀疏矩阵向量乘算法的高效并行优化算法本文提出了一种基于负载的多种并行模式混合的稀疏矩阵向量乘算法。针对SpMV操作中不规则访存多和负载不均衡等问题,本文基于计算负载对稀疏矩阵进行分块,减少由非零元个数变化所引入的存储开销;根据每行的计算负载选择不同的线程映射方式,实现线程间负载均衡;设计一种基于warp的负载分配策略,减少线程间同步开销。实验结果表明,本文提出稀疏矩阵向量乘算法能够有效提高算法的性能。(2)提出了面向异构体系结构的稀疏矩阵转置向量乘的高效并行优化算法本文提出了无矩阵转置的稀疏矩阵转置向量乘算法。针对稀疏矩阵转置向量乘算法的转置或原子开销大等问题,本文采用行压缩格式减少预处理开销,采用外积的计算方式避免稀疏矩阵转置的操作;采用多路并行归并排序消除原子操作。实验结果表明,本文所提出的稀疏矩阵转置向量乘算法能够获得有效的性能提升。(3)提出了面向异构体系结构的稀疏矩阵稀疏矩阵乘的高效并行优化算法本文提出了一种异构协同的稀疏矩阵稀疏矩阵乘算法。采用上限分配和逐次增加的混合空间分配策略,提高存储空间资源利用率;通过对中间结果进行多路并行归并排序和并行前向扫描操作,高效地实现中间结果的累加操作;根据结果矩阵每列非零元素个数进行任务划分,实现线程间的负载均衡;根据CPU-GPU的计算能力进行任务划分,实现异构协同并行,提高计算资源的利用率。实验结果表明,本文所提出的稀疏矩阵稀疏矩阵乘算法具有较好的性能提升。(4)提出了面向异构体系结构平台的稀疏三角方程组求解的高效并行优化算法本文提出了一种基于层次化并行的稀疏三角方程组并行求解算法。针对不同层次并行度不同的特征,设计了基于群并行模式和流水线并行模式两种方式的混合并行模式。利用群并行模式处理并行度较高的任务层,利用流水线并行模式处理并行度较低的任务层。在此基础上,基于任务层的计算任务实现计算过程中的线程间负载均衡策略。最后设计了一种CPU-GPU异构协同的稀疏三角方程组求解的并行算法,实验结果表明,本文提出的异构并行算法能够有效的挖掘CPU和GPU的计算性能,提高异构体系结构中的计算效率。
其他文献
2000年煤矿换证期间,山东淄博人李钊通过私刻公章、涂改采矿变更申请书等手段,获取了省国土厅新的《采矿许可证》,将“横山县波罗镇北窑湾煤矿”变更为“横山县波罗镇山东煤矿”
X光透射成像因成本低、速度快、可靠性高的特点使其一直是常规、重要的身体检查手段。但由于人体组织的复杂性以及X射线散射和机器噪声的影响,通过传感器直接采集得到的X光医
2009年年初,孟州市国土资源局槐树国土资源所所长赵国政被焦作市评为“2008年先进工作者”,有人请他介绍经验,他说:“三十多年的工作实践,使我深深地体会到作为一名基层土地工作者
为扩大土地储备规模,拓展城市发展空间,有力保障国家及省市重点项目用地需求,河北省石家庄市日前制定了2010-2011年大片区土地规划征收储备实施方案。
选用英文原版教材,开展《计算机科学引论》双语教学。根据课程性质、学生大学英语及专业知识水平和双语教学的特点,从实际出发构建支架式教学策略,营造多元化学习环境,引导学
目的研究304L不锈钢在高温高压水蒸气中的应力腐蚀开裂行为及机理。方法采用慢应变速率试验分别研究了304L不锈钢在常温常压水、高温高压水、高温高压水蒸气环境中的应力腐蚀
文章将现代经典儿童游戏空间与古典园林的典例空间(以狮子林为主要参照对象)进行类比分析,挖掘其模式语言的相似性与关联性,旨在探索当代本土化儿童游戏空间的基本设计原则。
任何国家和社会的发展都需要有主导价值观的强力支撑和有效引领,社会主义核心价值体系是引领当代中国社会发展的旗帜和灵魂。推动当代中国马克思主义的大众化,就是把当代中国
近日,河南省煤田地质三队“三标一体”管理体系顺利通过了摩迪英联认证有限公司年度审核。这标志着该队的管理水平上升了一个新台阶。2007年以来,该队为全面提升现代化管理水平
3月24日,山亭区卫生局召开手足口病防治工作紧急培训会,区卫生局副局长、区疾病预防控制中心主任张绪明主持会议并作重要讲话,区直医疗卫生单位负责人,各乡镇卫生院、社区卫生服