基于强化学习的服务组合与调度研究

来源 :海南大学 | 被引量 : 0次 | 上传用户:sust_alex
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着微服务体系架构和云计算技术的高速发展,如何合理地对服务进行组合,组合后又如何高效地给这些服务调度资源,逐渐成为行业内研究者关心的重点。本文针对微服务架构下的服务组合与任务调度问题,分别展开相关研究。传统的服务组合方法在解决约束条件下的服务组合问题(CSSC)时往往只考虑静态Web服务,当出现服务的非功能QoS属性波动或是服务不可用的动态场景时,这些方法便不再适用。近年来,许多研究者提出了使用强化学习,特别是结合Qlearning的思想来解决动态CSSC问题,然而这种策略算法依赖于Q表来搜索最优候选服务,当CSSC问题变得复杂庞大时,Q表也会随之变大,这使得最后的组合成本变得非常高昂。针对约束条件下的服务组合问题,本文提出了一种新的服务组合算法模型CSSC-DQN,该模型将深度强化学习与服务组合问题相结合,可以有效地使用细粒度的非功能QoS属性对服务的不确定性进行建模,并在复杂的场景中动态地选择合适的候选服务进行组合。最后在真实数据集中的对比实验结果证明了本模型的先进性和强大的泛化能力。此外,在组合好合适的服务之后,需要对组合后的服务进行合理的资源调度,一个好的任务调度策略对用户获得服务的质量和服务提供商的资源利用具有非常重要的意义。传统的调度方案通常需要先制定一个调度计划,然后让所有任务根据调度计划进行调度。但是这也使得这些调度方案在遇到突发状况时无法灵活快速地做出反应,而且任务之间的依赖关系也往往会被这些方案所忽略,这些都会导致延迟调度和不必要的资源浪费。现今许多前沿工作开始采用基于强化学习的任务调度方案,这些方案往往依赖于Q表。在云环境中任务数量巨大的情况下,这些解决方案很容易受到状态爆炸的影响。针对云环境下的任务调度问题,本文设计了一个基于深度强化学习的多阶段任务调度框架MSFRL。框架首先训练一个深度强化学习代理,代理会在考虑了任务的属性和依赖关系的前提下计算任务的优先级。然后,框架会训练另一个代理按照任务优先级将集群可用资源调度分配给合适的任务。两个经过训练的代理可以协同配合做出适当的调度决策,以应对动态环境中的大规模任务调度问题,在最后本文用公开的阿里巴巴数据集来评估本文的调度框架。实验结果表明,本文提出的MSFRL调度框架优于其他前沿工作。
其他文献
改革开放四十多年来,建筑行业高速发展。然而随着发展规模逐步扩大,许多问题暴露出来,其中由合同价款引发的争议常在建设项目争议中占比较大,合同价款争议案例数量也不断增加。在建设工程项目实施过程中,有多种因素可能导致合同价款争议,争议产生后,发承包双方为了解决争议必然需要投入额外的资金和时间,既会损害双方的利益,也会影响质量和工期。因此,有必要深入分析和探讨建设工程项目合同价款争议的影响因素,从而能够有
随着我国社会经济的快速发展,这几年来建筑行业也在迅猛增长,建筑企业也在不断优化施工组织管理的动态规划设计方案,有效增加了按施工计划、决策等阶段进行的建设效果;促进了整体施工迈向大型、复杂化的发展趋势。同时有效保障了工程项目的施工工期、质量和成本的需求,形成了三者间密切相关的融合关系,从而整合了施工组织设计的管理模式需求。并通过现代化的建筑工程实施动态性质的决策管理措施,不断发展优化管理模式理念,从
猪流感(Swineinfluenza,SI)主要在猪群中呈现地方性流行,猪流感病毒(Swine influenza virus,SIV)是重要病原,主要包括H1N1,H1N2和H3N2亚型。该病毒也易于在猪体内与其他亚型流感病毒重组,导致对人类的易感风险增强。中国拥有最复杂的SIV生态系统,包括经典谱系(Classic swine influenza,CS)、北美三元重组谱系(Northern a
目的:探讨入院时碎裂QRS波(Fragmented QRS,fQRS)联合全球急性冠状动脉事件注册(The Global Registry of Acute Coronary Events,GRACE)危险评分对急性非 ST 段抬高型心肌梗死(Non ST-segment elevation myocardial infarction,NSTEMI)患者住院期间和6个月内主要不良心血管事件的预测价
研究背景和目的随着神经影像学技术,尤其是磁共振技术的快速发展与更新,血管内机械取栓治疗急性大血管闭塞性缺血性卒中的有效性和安全性获得了普遍接受。传统的灌注加权成像(perfusion weighted imaging,PWI)-弥散加权成像(diffusion-weighted imaging,DWI)不匹配、CT灌注和CT血管成像等技术已用于急诊临床评估,但因为需要注射对比剂、操作时间长等弊端限
传染性支气管炎(avian infectious bronchitis,IB)是由传染性支气管炎病毒(infectious bronchitis virus,IBV)引起的急性、高度接触性传染病。IBV容易发生变异,血清型/基因型众多,不同型毒株之间存在较大的抗原差异。对于新出现的基因型,现有疫苗往往不能提供全面保护。在针对新基因型的疫苗问世之前,采用现有不同基因型疫苗的组合可以提供更好的交叉免疫
猪口蹄疫、猪瘟、猪繁殖与呼吸综合征、伪狂犬病、猪圆环病毒病、流行性腹泻等疫病是危害全球养猪业的几种重要传染病,其中口蹄疫、猪瘟和猪繁殖与呼吸综合征是上海市强制免疫的病种。为了解上海市猪群中这些传染病的流行状况,本研究于2019年在该市规模养殖场、种猪场、屠宰企业采集血样4581份,组织样品2019份(包括扁桃体1044份、颌下淋巴结345份、肺脏315份和小肠组织315份)、鼻拭子798份、口腔唾
目的:研究妊娠晚期母体血清总胆固醇(TC)、三酰甘油(TG)、高密度脂蛋白(HDL)、低密度脂蛋白(LDL)水平与巨大儿发生的相关性及其临床意义,为减少巨大儿的发生率,避免不良母婴妊娠结局提供参考依据。方法:将2017年1月至2020年12月于江苏省苏北人民医院妇产科分娩且符合纳入标准的孕妇作为研究对象,共有228例符合标准的巨大儿孕妇纳入巨大儿组(新生儿体重≥4000 g),选取同期在我院分娩且
病毒作为微生物的重要组成部分,不仅能够引起宿主多种类型的感染,同时对人类和动物机体的内稳态、生理健康发挥着至关重要的作用。近年来多种新发传染病都是由动物源性的新型病毒引起,加之各种危害人类健康的自然疫源性疾病的频繁出现,发现新病毒以及持续监测和掌握自然宿主携带的病毒本底极其重要。病毒宏基因组学(Viral metagenomics,VM)是宏基因组学在病毒领域的应用,是病毒发现、追踪和溯源的有力工
随着互联网的普及,越发频繁的恶意软件攻击已经成为网络安全防护中最严重的威胁之一。而这其中,由混淆、加壳等一系列修改技术所产生的恶意软件变体更是恶意软件检测目前面临的最大挑战,它不仅会对个人用户的信息隐私造成严重的伤害,也会给国家网络安全带来巨大的威胁。因此针对恶意软件变体所带来的安全问题,必须找到有效的解决方案。近些年,国内外的研究者们已经在恶意软件检测领域上做了大量的工作,然而这些工作大多都还存