边缘网络中联邦学习自适应资源优化方法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:wang840911
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
联邦学习是近年来热门的分布式机器学习框架,能够在保护各个本地节点数据安全的同时以较小的通信开销完成整体模型的训练任务。这种新颖的形式不但解决了本地节点所面临的数据孤岛挑战,还极大提升了整体系统的效能。而随着边缘计算与高性能计算的不断融合,联邦学习也有望结合边缘计算技术成为边缘网络智能化的重要范例。针对这一目标,本文对边缘网络场景下的智能联邦学习系统进行了深入的研究,提出了基于联邦深度强化学习的自适应资源优化框架和关键算法。通过对本地节点在数据分布、计算能力和通信状态上的诸多差异进行深入的分析,本文针对性的提出了具有高适应性的框架和算法,不但保证了整体模型训练的效率,降低了资源消耗,同时还兼顾整体与局部之间的关联,满足了本地设备的多任务需求。本文主要完成了以下工作:1、针对联邦学习模型在训练阶段增益的非线性提出了面向本地训练频次优化的集中式自适应联邦学习(Adaptive Federated Learning,AFL)框架,通过对聚合时通信资源消耗,本地训练时计算资源消耗与训练时损失梯度的比重进行调整,该框架以较高的精度完成整体模型训练的任务,并大幅度节约资源,实现精度与资源消耗的优化折衷。2、针对分布式场景下各个边缘服务器的异构特性,本文不再考虑由聚合器进行统一的集中决策,而是将强化学习模型部署于各个边缘服务器上进行细粒度的训练频次决策。考虑到强化学习模型状态空间的复杂性与环境信息的时变性,本文提出了一种基于多智能体深度确定性策略梯度(Multi-Agent Deep Deterministic Policy Gradient,MADDPG)的分布式强化学习算法,该算法不但使各个独立模型能够在训练中快速收敛,还充分考虑了局部决策与全局学习的关联,通过梯度传递保证了系统独立决策的最优性。3、基于隐私保护和安全聚合等方面的考虑,提出了一种基于信任聚合的联邦学习策略。该策略不但对初始节点的可靠性进行评估,还在联邦学习训练的过程中依据交互信息及时调整可信度,全面体现了边缘节点的信誉特征。最后通过信誉值信息对本地参数进行加权聚合,不但加强了高质量节点的学习贡献度,还能够有效抵御恶意节点的攻击。通过将本文提出的方案与其他基线方案进行对比可以发现,本文的方案在模型收敛上具有较好性能,并且能够实现资源消耗与训练精度的更优折衷,这一方面说明了本文方案在联邦学习场景下具有更高的普适性,另一方面也说明了分布式决策方案在处理分布式异构性问题上具有更好的表现。
其他文献
由于不同原因造成下肢运动功能障碍的人群逐年增加,并且专业康复理疗师数量有限,而可穿戴式下肢外骨骼机器人可以不知疲倦地帮助患者进行标准化的康复治疗,同时减轻了理疗师的劳动强度,是目前的一个研究热点。本文首先针对下肢外骨骼机器人的国内外研究现状做了分析,明确了外骨骼机器人开发中的技术难点,确定了本课题的研究内容。本文主要从以下几个方面展开:首先,完成三维模型的建立。基于人体下肢解剖结构对人体下肢运动机
目的:探讨替罗非班在急性缺血性脑卒中患者动脉取栓加支架植入术后应用的疗效。方法:本研究为回顾性研究并通过解放军第924医院伦理委员会审查,替罗非班应用于急性缺血性脑卒中通过本院药事管理委员会备案登记。选择本院2018年1月—2021年12月,住院诊疗的急性缺血性脑卒中患者,选取接受机械取栓加支架植入治疗的患者为研究对象,共计79例,分为治疗组(n=41)和对照组(n=38),两组病人术前均常规留置
中国革命道德是中国共产党和人民群众在革命、建设、改革、创新中形成的先进道德体系,是马克思主义与中国传统文化和中国社会发展的伟大实践相结合而形成的精神成果,是对中国传统道德的批判、继承、发展和升华。红色影视作品是对革命历史事件和历史故事经过艺术加工而升华的内含中国革命道德的文艺作品。观众与红色影视作品的共鸣和情感互动形成整体社会效应并构成红色影视文化。红色影视文化承担着传承和发扬中国革命道德的历史伟
BPA(Bisphenol A)是环境中能普遍检测出的一种典型的环境内分泌干扰物,在生活中常通过消化系统进入体内,紊乱生物体正常的生命活动。现已有大多数研究表明BPA暴露与女性卵巢功能障碍有关,包括不孕、多囊卵巢综合征等。青春期作为青少年获得生殖能力以及性器官发育完全的关键时间段,体内的生殖激素正处于一种相互协调且不断变化的状态,此阶段暴露BPA会导致青少年更易受到影响,并引起青少年早熟以及后续生
目的:益心定悸方治疗射血分数保留型心力衰竭(气虚血瘀型)伴焦虑状态的临床疗效观察。方法:选取2021年1月-2021年12月在黑龙江中医药大学附属第一医院心血管病四科门诊患者符合纳入标准的射血分数保留型心力衰竭(气虚血瘀型)合并焦虑状态的受试者。将符合纳入标准的共60例,按照随机数表法分为分为对照组30例,治疗组30例,对照组为常规西药组,治疗组在常规西药基础上服用益心定悸方,持续三周为一个疗程。
农村土地经营权抵押贷款作为我国重要的一项土地金融改革政策,已经在全国范围内得到推行。该政策通过允许农业经营者将自身产权明晰的农地经营权向金融机构申请进行抵押融资,为缓解目前“三农”领域融资难、融资贵的金融瓶颈提供了新的改进策略。乡村振兴战略进一步推动了我国农村金融的改革,在县域经济不断发展的同时,如何规避、缓释有关金融风险,进一步激发金融机构与政府的内生动力、实现县域经济与金融资本的持续良性运作是
数学运算素养作为高中数学学科核心素养的重要组成部分,对高中生数学核心素养的培养有非常重要的作用。高一作为学生高中数学学习的重要阶段,是培养学生数学运算素养的关键时期,函数作为贯穿高中数学课程的主线之一,掌握函数中所蕴含的运算规律和方法,能够帮助学生提高数学运算素养的水平,高一数学学习中函数是最重要的学习内容。基于此,本文围绕着高一学生函数相关内容学习对以下3个问题展开研究:(1)高一学生数学运算素
《众生之路》主要讲述了主人公欧内斯特挣脱环境和社会的各种束缚,逐渐长大成人的故事。在这样一幅成长图景中,呈现出的早已不是小人物的成长这般简单的问题,更重要的是透过主角的生活窥探维多利亚时代面貌,思索每个人在成长道路上的关键抉择。本次翻译实践所选章节大量使用从句、复合句等复杂句。在翻译的过程中,难点在于译文要充分考虑读者的可接受性,因此该小说的语言特点给此次翻译实践增加了难度。笔者以纽马克的文本类型
目的:通过对儿童生长发育常见疾病的患病率调查及分析儿童生长发育的影响因素,以期早预防、早发现、早治疗儿童异常的生长发育情况。方法:对1506名托幼机构的儿童进行身高、体重、胸部、四肢、血常规等项目体检,记录相应的数据,并对家长进行问卷调查,问卷内容由父母基本情况、儿童基本情况、饮食情况及睡眠情况等为组成部分,并进行问卷回收。调查生长发育中常见疾病的患病率和分析儿童生长发育中的相关影响因素。运用EX
在我国,股票回购的发展历史较短,早期国家相关部门对股票回购的限制较为严格。2018年,为了应对资本市场的变动,证监会修订新《公司法》,完善了股票回购的相关制度,一系列政策的加持使得股票回购更具有可行性。同时在中美贸易战的背景下,股市大崩盘,2018年实施股票回购的公司急剧增加,股票回购引起了学者们的广泛关注。本文选取均胜电子作为研究对象,采用案例研究法、事件研究法、财务对比分析法,深入分析均胜电子