基于深度强化学习的物联网暂态数据缓存策略研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:lpy2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着物联网的发展,物联网接入设备和网络流量快速增长,给现有通信网络带来了巨大压力。为了迎接物联网的挑战,边缘缓存是一种有前途的部署方案,将热点数据缓存在靠近用户的网络边缘,可以有效卸载网络流量、降低网络时延和提高用户体验。物联网场景下,网络的边缘缓存有两大特点:○1物联网中有很多具有时效性要求的暂态数据;○2物联网边缘节点的缓存空间受限。本文从物联网实际特点出发,对暂态数据缓存策略开展研究,提出了基于深度强化学习的物联网暂态数据缓存策略。首先,将物联网中有时效性要求的数据定义为暂态数据,并且对暂态数据进行建模描述,分析了暂态数据的生命周期、新鲜度、新鲜度损失等主要性质和特点。针对边缘缓存场景,将获取暂态数据的成本分为网络传输数据的通信成本和数据的时效性损失成本两部分综合考虑。设计了适合边缘缓存节点中的暂态数据存储结构。其次,分析了边缘缓存节点处理物联网暂态数据请求的过程,将缓存替换策略建模为马尔科夫过程,将深度强化学习算法用于求解缓存替换问题。针对缓存场景,设计了合适的深度强化学习算法,从历史请求中挖掘数据请求的流行度规律和时效性规律,优化获取物联网暂态数据的通信成本和数据时效性成本,学习一套灵活、高效的缓存策略。最后,基于Tensorflow框架实现了所提出的基于深度强化学习的缓存算法和缓存系统,并且在仿真实验环境中对所提出的暂态数据的缓存策略进行了实验验证和性能比较分析。通过对物联网边缘缓存中暂态数据缓存策略进行建模分析,提出了基于深度强化学习的缓存替换算法。仿真结果表明了所提出缓存策略在不同场景下,与传统缓存策略相比,可以更灵活地学习高效的缓存策略,优化暂态数据缓存的综合效率。
其他文献
在催化量的Pd(OAc)2存在下,烯丙醇和芳香四氟硼酸重氮盐在乙醇中的芳基化反应能顺利进行,以中等产率生成相应的β-芳基醛或酮.
从河南南阳不同农田的植物根部采取土壤样本,共分离获得了198株细菌。通过毒性测试和平板生测从中筛选出松材线虫生防细菌6株,其中NS-3菌株对松材线虫的杀灭活性最高。结合该
通过测定不同加热温度条件下滩羊肉剪切力、蒸煮损失、蛋白质降解指数、肌原纤维蛋白凝胶强度和二级结构的变化,研究加热温度对滩羊肉热加工品质的影响。采用质构仪、凯氏定
作文教学要贴近学生的实际,让学生易于动笔,乐于表达,让学生以主体的身份,自主芳参与作文的全过程中,认认真真地观察,开开心心地活动,高高兴兴地体验,快快乐乐地追忆,痛痛快
以吕梁市煤炭工业学校校内地形测量为例,通过全站仪与CASS7.0成图软件的综合应用,阐释了数字化地形测图的主要原理及步骤,包括测区概况、图根控制测量、碎步采集和CASS7.0成
近年来临建房火灾事故频发,多数是由彩钢板夹芯材料防火性能不足引起的。目前彩钢板夹芯材料主要是EPS、Pu一类的有机材料,其防火性能不高,一旦有火源或高温热源,极易引发火灾事
研制了一种基于电容测量的粮食水分含量在线测量传感器。提出了一种新的传感器结构并给出了数学模型,通过理论分析和ANSYS仿真实验给出了传感器的结构参数;同时,介绍了传感器信
<正> 本文综述了现有与寄生虫有关的腹泻的流行学、发病机理、临床特征、免疫学、诊断及治疗的知识,涉及的寄生虫病有阿米巴病、贾第虫病、鞭虫病、类圆线虫病、小袋虫病、球
为确定小麦品种(系)所携带的抗病基因,对来自国外的50个小麦品种(系)进行苗期抗叶锈病基因推导和成株期抗叶锈鉴定。在苗期,根据供试品种(系)与20个毒力不同的叶锈菌生理小种
高校开展固定资产管理审计十分必要。要从源头抓起,加强对固定资产配置预算的审计,实行事前监督;要重视对固定资产的购置、使用、处置、保管等全过程的审计监督,实现过程控制。