【摘 要】
：
边缘计算将服务器部署在网络边缘,为用户提供计算服务。其特点是可以以较低的延迟完成终端设备需要的计算服务。现实应用场景中,一台边缘服务器需要为大量终端设备提供深度学习模型推断服务。这些任务的特点有两个维度,一是高并发,二是多种类。以图形处理单元（GPU）为代表的边缘服务器计算能力为目标,相关工作主要集中在模型简化和资源调度两个方面。前者的问题是会带来精度损失,后者的研究忽略了批处理可以大幅提升边缘服
论文部分内容阅读
边缘计算将服务器部署在网络边缘,为用户提供计算服务。其特点是可以以较低的延迟完成终端设备需要的计算服务。现实应用场景中,一台边缘服务器需要为大量终端设备提供深度学习模型推断服务。这些任务的特点有两个维度,一是高并发,二是多种类。以图形处理单元（GPU）为代表的边缘服务器计算能力为目标,相关工作主要集中在模型简化和资源调度两个方面。前者的问题是会带来精度损失,后者的研究忽略了批处理可以大幅提升边缘服务器吞吐量这一特点,并且依赖数值实验和仿真实验验证调度性能,难以在实际系统中落地。针对以上问题,本文分别提出了基于批处理的单一种类任务调度策略,以及面向多种类任务的计算资源分配策略。主要工作和贡献可以归结为以下几个方面:1.提出了面向单一种类任务的调度策略。通过实验测试验证批处理能够大幅度提升任务吞吐量,并在此基础上提出了基于动态批处理的任务调度方案;接着分析系统中任务到达速率、批次大小和吞吐量之间的关系;然后提炼出以优化吞吐量为目标的优化问题;并设计了低复杂度的近似求解算法;最后搭建实验床,对提出的解决方案进行评估,结果说明本文提出的策略性能在真实实验环境中超过已有的工作。2.提出了面向多种类任务的资源调度策略。考虑到多种类推断任务执行时会互相影响,使得系统状态空间过大的问题,提出了基于深度强化学习的调度策略。首先通过实验验证了使用虚拟化技术切分图形服务单元算力的可行性,然后提出了调度系统架构,包括任务管理器和资源调度器;之后构造了描述多种类任务调度的NP难优化问题,并设计了基于深度强化学习的调度算法,以及相应的任务优先级算法;最后在饰演床上对提出的方案进行了评估,结果说明本文提出的策略相比于现有策略能够较好的实现面向多种类任务的资源分配。图19幅,表8个,参考文献67篇
其他文献
近年,贸易保护主义和逆全球化趋势抬头,加之新型冠状病毒在全球范围内蔓延,全球经济遭受重创。与此同时,以WTO为代表的多边贸易谈判举步维艰,各国为满足政治利益、寻求更多的贸易投资市场逐步将目标转向具有决策灵活、协调便利等优势的区域贸易协定。伴随着区域经济发展的新格局,国家之间的贸易协定形式不断深化,内容上不断扩展,不同的自由贸易协定之间差异逐渐加大,而传统上关于自贸区研究主要是将所有的贸易协定视为“
目的 探讨阴沟肠杆菌耐药特征，以及耐药率与抗菌药物使用强度之间的相关性。方法 统计该院2018-2021年分离的阴沟肠杆菌临床资料及同期11种抗菌药物使用情况，分析二者之间的相关性。结果 2018—2021年共分离细菌23 184株，其中阴沟肠杆菌746株，占3.22%;检出科室主要有重症医学科（ICU）173株（23.19%）,其次为肝胆胰外科[115株（15.42%）]、泌尿外科[55株（7.
金融危机给俄罗斯经济带来的巨大冲击虽已过去很久,但实体经济增长乏力。对俄罗斯政府来说,一系列的重大事件如乌克兰危机、近期的新冠疫情冲击对经济的冲击惯性还没有停止,大规模的反衰退计划仍在实施,在维护经济常态化增长的过程中,不仅要极力避免金融危机以及实体经济严重衰退的发生,更要维护好现有金融体系的稳定。当前局势下,金融稳定是俄罗斯经济复苏的基本保障。俄罗斯过去发生的多次金融危机表明,在金融稳定基础上的
通过激发学生的学习兴趣，能够有效提高课堂教学效率。中职学生和中职教育具有一定的特殊性，想要提高课堂教学效率，就需要做好情感教育，把学生的积极情感培养起来，这会对学生的全面发展起到促进作用。本文首先介绍了情感教育的含义和价值，进而分析了目前中职英语教学中实施情感教育存在的主要问题，然后阐述了情感教育对中职英语教学的作用，最后提出情感教育在中职英语教学中的应用策略。
中等职业学校的办学宗旨在于为国家和社会培养一批技术应用型的人才和提供各类职业培训以促进社会职业素质的提高。中等职业学校与普通高中相比,其教育种类和培养目的不同;与高等职业教育相比,其教育层次不同。近年来,国家对职业教育的重视程度在加大,中等职业学校在快速发展的过程中认识到想要获得健康可持续的发展就必须要提升自身的管理能力。预算管理是中等职业学校内部管理中的重要内容之一,对预算管理的研究有助于实现中
2013年,习近平提出“一带一路”建设倡议,“中巴经济走廊”（以下简称“走廊”）大型项目投资是“一带一路”建设的重要组成部分。随着走廊大型项目投资不断深入,诱发走廊大型项目投资金融风险的因素不断聚集。对走廊大型项目投资中可能出现的金融风险,做到早期识别、事中控制和事后化解是当前亟待研究的问题,不仅关系到走廊大型项目投资能否顺利开展,而且对促进我国能源战略安全及社会经济发展具有重要的现实意义。对走廊
2013年,中国向世界各国正式提出关于共同建设“一带一路”的合作倡议,这是一个巨型的连接与合作网络,跨越了整个欧亚大陆及非洲部分地区。这一历史性倡议的发起因契合沿线国家经济发展需要,自提出以来进展迅速、成果丰硕,它提供了全球治理新的方向与路径,带来了世界发展走向共赢的中国方案,增添了沿线各国可持续发展的动力和平台。作为“一带一路”倡议最优先的重点领域,基础设施项目建设具有举足轻重的地位。然而,“一
自互联网出现以来,互联网技术正在不断渗透到经济、社会和生活的各个方面。处于工业化中后期的中国而言,已经进入经济增速趋缓、结构趋优、动能转换的经济新常态,互联网发展还被赋予经济增长新动能的角色。在国内,一方面互联网经济高度繁荣,互联网模式创新层出不穷,高铁、扫码支付、共享单车和网络购物被誉为“新四大发明”;另一方面各行各业的全要素生产率呈现放缓的趋势。为何互联网与全要素生产率之间相互背离?亟需厘清二