基于Hadoop YARN的TensorFlow GPU集群的调度扩展

来源 :科研信息化技术与应用 | 被引量 : 0次 | 上传用户:xiaoppqq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文研究并实现了大数据平台Hadoop YARN与深度学习框架Tensor Flow的结合。通过对DRF算法的扩展,使得Hadoop YARN在原先支持CPU和内存的基础上,可以对GPU资源进行管理和调度。通过YARN的应用接口,把Tensor Flow封装成了YARN的应用程序之一,把原来的分布式程序在多节点手动分发启动改为了在单节点自动分发启动,单机版不变。本文设计了多组实验对YARN+Tensor Flow进行了多方位的测试,实验结果表明YARN和Tensor Flow相结合相比原生Tensor Flow程序具有相似的加速比,可以满足单系统多用户对GPU资源的使用,有效提高GPU资源的使用效率和编程人员的工作效率,增加系统的复用率。
其他文献
城市地区挡土墙多存在墙前空间不足,墙后不易开展锚固工程的特点,目前对于此类挡墙的失稳加固较为困难。基于此本文提出了一种竖向预应力锚索与重力式支墩复合支挡的挡墙加固
国务院办公厅发布的《关于强化学校体育促进学生身心健康全面发展的意见》中提出:“体育教学要加强健康知识教育,注重运动技能学习,科学安排运动负荷,重视实践练习。研究制定
作为物联网核心技术之一的射频识别(Radio Frequency Identification,RFID)技术,其应用市场正随着物联网的普及而拓宽。阅读器和标签是RFID系统的重要组成部分,阅读器负责发
变压器在电力系统中占据重要地位,其模型的建立对于研究各种暂态、稳态过程中变压器呈现出的特性和受到的影响至关重要。但变压器复杂的结构和运行工况使之成为了现代电磁暂
中华绒螯蟹是我国传统的水产养殖动物之一,因为其具有良好的风味和较高的营养价值,不仅被人们视为美味佳肴,同时也具有药用价值,因此食用中华绒螯蟹在中国十分流行。稻蟹种养模式是近年来一种被推广使用的高效立体生态化种植方式。然而对于稻蟹模式的研究尚不完善,仍存在诸多亟待解决的问题。在实际生产过程中,水环境中的氨氮浓度的变化会受到多方面因素的影响。中华绒螯蟹的生长安全和食用安全主要取决于其生长的水环境,如果
抽象解释为程序不变式的自动化生成提供了通用的框架。但是,该框架下的大多数已有数值抽象域只能表达几何上是凸的约束集。因而,对于包含(所对应的约束集是非凸的)析取语义的
电动汽车很好的迎合了可持续性发展战略,为此政府为此类产品的全面推广提供了政策方面的有力支持。然而,要让更多的消费者购买电动汽车,首要前提是全面部署大量的充电换电装
物业管理进入我国近40年,住宅小区物业管理行业在上世纪90年代住房制度改革以来,伴随着房地产业的迅猛发展而迅速壮大。随着物业管理行业快速发展和居民对生活居住水平要求的
期刊
目的:观察“少阳透刺法”(头维透率谷、率谷透完骨为主穴)治疗原发性面肌痉挛的临床疗效,以期为临床提供一种新的治疗思路。方法:选择符合原发性面肌痉挛诊断标准的病例72例,