基于强化学习的云资源代理商资源分配策略研究

来源 :武汉理工大学 | 被引量 : 0次 | 上传用户:owenming521
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当前云计算在工业界取得了巨大的成功,越来越多的公司和个人用户通过互联网使用云计算服务,这也加速了云计算的发展。随着云用户需求越来越复杂,云用户难以直接从服务提供商处购买合适的实例资源,因此云市场中产生了云资源代理商,代理商通过向服务提供商购买云资源并将其转租给用户赚取利润。但是,由于预算有限,云市场中的云资源代理商能够从云资源提供商处购买的资源也是有限的,并且在云计算市场中,云用户对资源的需求是随机的。因此,为了在有限的时间内获取更多的收益,云资源代理商需要将有限的资源分配给更有“价值”的用户。基于此,本文对云计算市场中云资源代理商的资源分配策略进行分析,主要研究云资源代理商在无竞争环境下以及竞争激烈环境下的资源分配策略。本文主要研究工作如下:(1)给出本文所研究问题的基本设定,首先建立云用户的随机需求模型,即考虑每个阶段进入市场的云用户的数量是动态变化,并且每个云用户的资源需求是动态变化的。然后,在竞争环境中,建立云用户对多个云资源代理商的选择模型。最后给出了云资源代理商的期望收益的计算方法。(2)接着在无竞争的云计算市场环境中分析云资源代理商如何分配资源。本文将每个阶段提交资源请求的云用户看作一个整体,提出一种Q-DP算法来解决无竞争环境中云资源代理商的资源分配问题。首先,本文将每个阶段云资源代理商为整体云用户分配资源的过程建模为一个马尔科夫决策过程,并使用强化学习算法——Q-learning来生成云资源代理商在每个阶段的分配策略,决定应该分配多少实例资源给本阶段提交请求的所有云用户。然后,本文使用动态规划算法来决定应该具体满足哪些云用户的需求。本文进一步通过实验,对Q-DP算法中使用的资源分配策略与其它典型的资源分配策略进行了对比分析,结果表明,Q-DP算法中使用的资源分配策略在资源极为有限的环境下可以为云资源代理商提供更多的收益。(3)最后在两个云资源代理商竞争的云计算市场环境中分析代理商如何资源分配。本文将两个云资源代理商间竞争的过程建模为一个马尔科夫博弈,使用Minimax-Q learning算法产生了多种云资源代理商在竞争环境下的资源分配策略(包括竞争环境中的定价策略),并对这些策略进行分析。实验发现,采用Minimax-Q learning算法生成的策略进行定价有助于提高云资源代理商的长期收益,并且在次基础上,结合Minimax-Q learning算法和Q-learning算法生成的资源分配策略也能够提高云资源代理商的长期收益。本文的研究结果对云计算市场中云资源代理商的资源分配有一定的参考价值。
其他文献
松毛虫赤眼蜂是一种重要的寄生性天敌,冷藏时间及虫期是影响其寄生卵存活力的重要因子.为了全面评价冷藏时间和虫期对松毛虫赤眼蜂寄生卵低温下存活力的影响,分析了不同冷藏
轻质Mg-Li合金作为“21世纪绿色环保新型材料”具有诸多的优点,如比强度/比刚度高、良好导电性及室温成形性能等,在航空航天、电子通讯、汽车及高新技术产业中具有非凡的市场
文玩核桃(Juglans hopeiensis Hu)属于麻核桃类,变种很多,如南将石狮子头、官帽、公子帽、鸡心等。属于胡桃科,落叶乔木,内果皮坚硬,有皱褶,黄褐色。文玩核桃经过长期把玩后
文章介绍了5种开关电源过流保护电路的设计,通过对5种过流保护电路设计过程的剖析,总结出了开关电源过流保护电路设计的思路或方法。实验结果表明这些保护电路具有过流保护效
以小冠开心形和小冠分层形苹果树为试材,进行了不同处理地面太阳辐射光谱变化以及对叶幕太阳辐射影响的研究。结果表明,(1)受树形处理的影响,地面太阳辐射光谱和强度均发生了明
在足球比赛中,一次正确的决策,一次精确的传球,一脚关键的射门,一次在前场正确的处理球,都有可能决定一场比赛的走向,甚至关乎于这场比赛的胜负。通过观察我们发现,在现在大多数青少年的足球训练当中,缺乏对球员关于决策方面的培养,导致球员随着年龄的增长,在成长的过程中,球商、大局观,或者说处理球的能力,也就是一个足球运动员的决策能力并没有得到很好的提高,造成球员们的水平差异越来越大。本研究就是通过设计一种
在经济全球化的大背景下,民间的传统手工艺相对脆弱,受强势文化影响存在同质化的趋向。城镇化进程加速,散布在民间的传统手工艺逐步丢失了市场和场域,随之民俗习惯也发生变迁
当前全球制造业格局正面临重大调整,国内经济环境也发生了重大变化,给我国制造业的发展带来了严峻考验,亟需依靠管理创新和技术创新来推动制造业行业的转型升级。同时,我国制
研究背景:慢性阻塞性肺疾病(Chronic Obstructive Pulmonary Disease,COPD)是一种以持续性呼吸道症状和气流受限为特征的疾病,致死率和致残率极高,目前居全球死亡原因的第4位