基于深度强化学习的多星测控资源调度方法研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:wuzhigang3481
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着商业航天的发展,卫星的数目呈现出规模化增加的趋势,然而航天测控系统中的测控资源数量相对有限,因而如何对现有测控资源进行有效调度,是在有限测控资源的条件下完成测控任务的关键。测控任务的完成是关系到卫星正常运行与用途正确发挥的重要环节,因而对于测控资源调度问题的研究具有重要的意义。由于测控背景的复杂性,多星测控资源调度呈现出复杂性、多样性、动态性的特点,并且存在测控场景动态性强、测控冲突复杂以及测控资源利用合理性的难点。针对多星测控资源调度问题的特点与难点,引入深度强化学习对该问题进行优化决策,以应对海量卫星对测控系统的挑战。主要研究内容如下:
  面向多星测控资源调度问题,针对测控资源调度各个要素的特点对测控资源调度问题的实质进行探索。并探究了测控场景中各个要素的数学表示方法,从而完成对测控资源调度问题数学模型的表示,为其进一步的建模与调度奠定基础。
  针对多星测控系统中所存在的测控资源利用合理性问题,展开对测控资源调度性能综合评价指标的研究。将任务完成度、测控资源利用度、测控资源利用均衡度三类指标结合起来,利用层次分析法形成对测控资源调度性能进行评价的综合评价指标,作为评价测控资源调度方法对测控资源利用是否合理的标准,为后续对测控资源调度方法的评价以及测控资源调度的实现提供解决问题的基准。
  针对多星测控资源调度过程中的测控冲突复杂的问题,展开对测控资源调度问题的马尔科夫决策过程模型的研究。探索了多星测控资源调度问题的马尔科夫决策过程模型中的动作、状态与回报的设计方法,并对其进行形象化的描述。通过对马尔科夫决策过程模型的研究,使得测控资源调度问题中各个要素的描述更为合理。
  针对多星测控资源调度问题中的测控场景的动态性,利用深度强化学习算法中智能体与环境的频繁交互,实时感知测控资源调度场景的变化的特性,解决测控资源调度问题。通过对基于异步优势演员-评论家(Asynchronous Advantage Actor-Critic,A3C)算法(深度强化学习算法之一)的测控资源调度框架的设计、对测控场景的合理设置、对算法相关参数的调整,实现测控资源调度在测控任务完成与测控资源利用两个方面的综合最优化,从而验证了基于A3C的多星测控资源调度方法的适用性。并通过对不同调度算法的对比,验证了基于A3C的多星测控资源调度方法的有效性。
其他文献
【摘要】心理学理论告诉我们,人性中最本质的渴求就是被尊重的需求。人生如果得不到这种需求就会像得不到阳光的小树苗一样枯萎。而尊重和表扬就如同和煦的阳光,能使濒临枯萎的小树苗重现生机,能使学生在阳光灿烂的日子里健康成长。  【关键词】爱 尊重 理解 信任 播撒阳光  【中图分类号】G635 【文献标识码】A 【文章编号】2095-3089(2014)09-0209-01  现在的学校教育已经不是十几二
期刊
【中图分类号】G633.91 【文献标识码】A 【文章编号】2095-3089(2014)09-0196-02  高中新一轮的课程改革,自然科学学科特别强调学生科学素养的培养。科学素养是指学生在接受一定的科学知识过程中,所形成的适应社会发展和人类自身完善所需要的基本品质和能力,它包括知识与技能、过程与方法、情感态度与价值观等方面。我在最近几年的高中生物学教学工作中,对教材中的科学发展史部分进行了认
期刊
【摘要】“五四”时期优秀的民族器乐作曲家、演奏家和革新家刘天华先生,为我国音乐事业做出了卓越的贡献。他的音乐观及他充满戏剧性的人生经历,充分显示出他是一位爱国主义人士。爱国主义思想贯穿于他的作品之中,在中国现代音乐史上产生了很大影响。 为中国音乐在世界乐坛取得了声誉。  【关键词】爱国主义 核心 基础  【中图分类号】G633.951 【文献标识码】A 【文章编号】2095-3089(2014)0
期刊
【摘要】区域地理目前仍是地理学的重要分支学科之一。区域地理所强调的是“人地关系”的研究,它不仅揭示自然环境本身的自然特点,而且考虑到社会、经济、历史等各种因素,研究人类活动与环境的互相影响与作用。区域地理成果对于制定区域发展规划、合理开发和利用自然资源、解决区域生态环境及人口问题等,都具有十分重要的科学价值,同时也是未来公民必须了解的最基本的科学知识。  【关键词】区域地理 地理要素 认识区域 地
期刊
【摘要】外聘教师是民办高职院校教学队伍的重要组成部分。本文结合山东现代职业学院实际,剖析了外聘教师队伍存在的管理问题,提出了改进的建议和对策。  【关键词】民办高职 外聘教师 存在问题 改进对策  【中图分类号】G71 【文献标识码】A 【文章编号】2095-3089(2014)09-0216-02  在1999年开始的全国高校扩招中,民办高职教育也得到了迅猛发展,短短几年实现了规模的历史性跨越。
期刊
【摘要】机械图样是设计者表达设计构思,同行相互交流的工具;也是生产者了解加工对象,控制加工生产的依据。可以说图样是工程界中最普及的“工程语言”。Auto CAD是由美国Autodesk公司开发的大型计算机辅助绘图软件,主要用来绘制工种图样。随着AutoCAD的快速普及,如何解决教学中机械制图与AutoCAD教学分离现象,实现两者的有机结合,以机械制图为指导,AutoCAD为工具的转换,同时加强学生
期刊
【摘要】本文通过《结构的稳定性》一节中的课堂情境创设实例,探索如何积极创设有效的教学情境。  【关键词】问题 教学方法 教学情境  【中图分类号】G63 【文献标识码】A 【文章编号】2095-3089(2014)09-0250-02  对于情境教学,德国学者曾经有一个精辟的比喻:“将15克盐放在你面前,你无论如何也难以下咽。但将15克盐放入一碗美味可口的汤中,你早就在享用佳肴时,将15克盐全部吸
期刊
【摘要】目前,网页设计已成为中职信息专业学生生活环境中不可或缺的一部分。然而,学生自创的网页设计作品却不容乐观。究其原因有学生自身的综合素质因素,也有学校专业课堂教育的不足、社会环境的影响。提高学生的综合素质也应成为学校专业课堂教育的一项重要内容。  【关键词】网页 综合素质 中职 信息专业  【中图分类号】G71 【文献标识码】A 【文章编号】2095-3089(2014)09-0248-02 
期刊
【摘要】普及教育的公平性,提高教育的实效性,是我国现代教育面临的重要问题。外来务工子女作为社会的特殊群体,其教育问题逐渐成为我国现代教育的重要障碍之一。全社会要加大重视程度,培养外来务工子女的积极心理,促进其身心健康发展。  【关键词】外来务工子女 积极心理 健康成长  【中图分类号】G621 【文献标识码】A 【文章编号】2095-3089(2014)02-0003-02  近些年来,随着我国城
期刊
【摘要】活动区活动是一种师幼互动的双边活动。对幼儿来说,活动区活动是一种自由探究的“游戏活动”,其形式多样、内容丰富,幼儿在与材料、同伴、教师的互动中得到发展。对教师而言,活动区活动给教师在教育观念、教育能力、专业水平方面带来极大的挑战。教师需要通过活动区设置、材料的选择与投放、对幼儿活动行为的观察与指导,来实现活动区课程的教育价值,并在反复的探索与实践中获得成长与提高。  【关键词】活动区 课程
期刊