基于深度强化学习的大规模流处理任务资源调度方法

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:chunya88
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当前,分布式流处理系统中的处理逻辑变得更加复杂,数据流图规模变大,图拓扑结构较为复杂。现有的流处理资源管理器中的启发式调度规则不够灵活,调度效果较差,影响了流处理系统性能,现有的节点调度算法难以在大规模流处理任务上取得较好的调度效果。本课题中,针对如何对流处理应用中的大规模数据流图节点进行资源调度,提高分布式流处理系统处理效率的问题,采用了深度强化学习与多级图划分技术,从两个方面进行了研究,设计并实现了基于深度强化学习的大规模流处理任务资源调度方法。提出了基于强化学习的流处理资源调度方法。构造了基于图嵌入的数据流图编码器模型与图感知的设备分配解码器模型,并共同组成图感知的编码器解码器模型,通过强化学习方法训练该模型,为流处理系统数据流图中节点进行计算设备资源分配。提出了基于多级图划分思想的大规模流处理任务资源调度方法。该方法中通过图粗化方法,减少数据流图的节点规模,将问题转换为在简单数据流图上的调度策略学习问题,降低问题处理难度,限制问题求解空间,并将在小问题规模上得到的解映射回原问题的解。本研究中提出了两种的流处理任务资源调度方法,在大规模流处理任务数据集中取得了较好的调度效果,为大规模流处理任务资源调度问题提供了可行的处理方法,同时证明了图的粗化过程对于优化大规模流处理任务资源调度效果的有效性。
其他文献
谐振式光纤陀螺(RFOG)是一种以光学Sagnac效应为基础的光学陀螺,与传统干涉式光纤陀螺相比,谐振式光纤陀螺可以在光纤环更短的情况下达到和干涉式光纤陀螺相同的检测精度,受到国内外研究人员的广泛关注。有学者论证,用圆偏振腔代替传统线偏振腔在抑制各种光学噪声的方面上具有更好的效果。论文在此基础上,利用法拉第旋光效应,提出了新的闭环控制方案,并开展了相关研究工作。本文提出的信号处理方案进一步增强了谐
无人机和卫星遥感的飞速发展使得航拍图像越来越容易获取。相比于自然场景下拍摄的图像,航拍图像通常能够包含更多的地物信息,因此如何在航拍图像中进行检测已成为当前热门的研究课题。然而由于特殊的拍摄视角,航拍图像中具备检测意义的目标尺度通常非常小,例如人、车等,而且航拍图像也具有背景复杂、正负样例不平衡以及目标类别之间不平衡等问题,这给目标检测造成了极大的困难。当前基于卷积神经网络的航拍检测算法已经成为主
随着反应堆工程技术的不断发展,对于反应堆物理计算的要求不断提高,传统的中子扩散方程求解存在计算时间长以及所需存储空间较大等问题。因此,对于如何快速、准确的获得扩散方程结果的研究具有重要意义。现代计算机技术和性能在不断地改进和发展以及现代人工智能迅猛的发展,计算机的性能足够维持现代人工智能研究所迫切需要的高性能算力需求,人工智能也得到了快速的发展,其中深度学习已成为了解决一些实际问题的重要手段。在核
绳驱机械臂是一种采用绳索传动将电机等驱动单元全部可布置在基座的新型结构的机械臂。相比于传统的机械臂而言,绳驱机械臂的质量和惯量更小、负载能力更强、更容易实现轻量化和小型化,并且由于使用绳索传动使得绳驱机械臂具有一定的柔性。基于上述特点,采用绳驱结构特别适合应用于人性机器人以及与人进行交互的场景。绳驱结构将为机器人领域提供一种新的解决方案,对绳驱机械臂的研究将在这些方向发挥重要作用。本文首先首先对绳
当车辆行驶在长波路面或离散冲击路面时,路面高度的变化通过车轮传递到车身,会带来明显的颠簸感,影响车辆乘坐的舒适性,同时,当路面的变化较剧烈时,车轮有可能与地面脱离接触,会影响车辆的操纵稳定性。半主动悬架被广泛应用于车辆控制当中,用于改善车辆性能。本文以半主动悬架为研究对象,首先对路面高度进行估计,进而在路面已知的情况下,对半主动悬架进行控制,从而提升悬架控制效果。首先,本文建立了一种新的考虑车身俯
主动脉血管疾病是人类心血管疾病中最具威胁的健康杀手。通过主动脉形态结构监测其健康状况能够及时诊断出主动脉夹层和主动脉瘤等疾病,已成为临床中重要的计算机辅助诊断方式。医学图像人工标注将耗费大量时间,且因受标注者主观影响而有所差异。本文提出了一种基于深度学习的全自动精细化主动脉分割算法,有效解决了医学图像分割尤其是管状结构分割任务的难点问题,具有较强的鲁棒性和泛化性。本文第一部分针对融合上下文语义信息
提高低压涡轮单个叶片载荷可以减少低压涡轮叶片数目,有效降低低压涡轮部件质量,实现提高发动机推重比的目的。然而由于负荷的增加,叶片吸力侧附面层会承受更大的逆压梯度,在高空低雷诺数工作环境下更易发生层流分离,造成损失剧烈增加,严重影响发动机的工作效率和飞行器的续航时长。因而通过研究开发有效的流动控制手段,抑制由负荷提升造成的低雷诺数下层流分离带来的不利影响,是近些年高负荷低压涡轮相关研究中的一大热点。
机器视觉导航在机器人、智能驾驶等领域应用越来越广泛,导航数据集对于导航算法的训练和测试发挥着重要的作用,但目前导航数据集大多基于固定轨迹生成,存在不能生成任意轨迹下的数据、通用性差等问题。本文基于RGB-D相机(彩色-深度相机),提出一种基于三维重建模型的导航仿真数据集生成方法,实现了在重建三维模型中根据设定的轨迹、视觉传感器类型,生成包含图像序列和轨迹序列等信息的数据集。具体工作如下:(1)综合
高压输电线路遍布全国大大小小各个地方,是进行现代生产生活的基本保障,而每年对高压导线的维护检修都需要耗费巨大的人力与物力,低效率、低可靠性的传统高压输电线路巡检手段已经不再适合现代社会的发展需求,因此本文研发了一款应用于220KV或500KV的架空高压导线检修机器人运动控制系统,结合传统机器人控制方法与架空巡检机器人的特性,按照线上运动的不同阶段对机器人展开运动控制系统设计,充分利用现代传感器的感
架空线路是电力系统的重要组成部分,架空线路和线路上各类金具长期暴露在室外环境下容易发生损坏,因此需要进行架空线路巡检工作。利用架空线路机器人代替人工进行巡检可降低人员劳动强度,保护人员人身安全。当前架空线路机器人存在智能化程度不高且较少考虑机器人随导线发生摇摆的状况等问题,对此,论文重点研究了架空线路机器人检测臂路径规划技术、针对机器人平台小角度摇摆的位置补偿技术和针对机器人平台大角度摇摆的摇摆预