面向部分设备参与的非独立同分布数据的联邦学习算法

来源 :小型微型计算机系统 | 被引量 : 0次 | 上传用户:lklqlk
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在数据非独立分布的情况下,联邦学习每一轮通信中将局部模型聚合成一个全局模型的过程将会导致异质性,并给联邦学习训练带来巨大的挑战。除此之外,由网络带宽不同或者客户端设备的训练速度的不同导致的部分设备参与加剧了这种异质性。仅通过局部模型的简单加权聚合会导致与真正的全局模型的进一步偏差,后者会收敛到局部极值点并在收敛过程中振荡。基于这些发现,本文提出了一种新的聚合算法--联邦累积学习算法(FedAcc),该算法在服务端通过聚合延迟的客户端的梯度信息以指导下一轮的服务端梯度更新,从而实现更健壮和更精确的聚合。实验结果表明,与FedAvg、FedAdam和FedAsync等几种优秀的联邦学习算法相比,FedAcc算法具有更好的综合性能。
其他文献
党的十八大以来,习近平在坚持马克思主义文化观和历届党的领导集体有关文化建设理论的基础上,根据新时期社会主义发展的时代特征,在科学把握当前我国文化发展规律的前提下,立足中国特色社会主义文化发展实际,形成了指导新时代中国文化建设发展的新思想。文化建设作为当前治国理政的重要内容,对提升国家综合竞争力和中国梦的实现具有现实意义的引领作用,文章从整体上对习近平关于文化建设重要论进行详细梳理和进一步研究不仅能
学位
目的 研究黄芪多糖(Astragalus polysaccharide, APS)对低氧诱导的肺动脉高压(hypoxic pulmonary hypertension, HPH)小鼠肺血管重构的影响并探讨其相关作用机制。方法 将C57BL/6小鼠置于含10%O2的常压低氧舱中持续饲养4周制备肺动脉高压模型。50只雄性C57BL/6小鼠按完全随机法分为正常对照组,模型组,模型+APS 200、400
建筑工程是经济社会发展中的基础性工程。城镇化背景下,人口大量流入城市,城市荷载增加,土地资源日渐匮乏,建筑行业发展整体迈向高层建筑方向。对比传统建筑,高层建筑对稳定性和安全性有着更高的要求,要保证地基基础的良好质量。高层建筑地基基础施工兼具投入多、周期长和复杂性大特点,并受到诸多因素影响。当务之急要求找寻核心问题,结合主要矛盾,革新理念,创新方法,进一步完善技术支持。因此,文章立足问题,提出几点建
黄河流域生态保护和高质量发展已成为国家重大战略,习近平总书记指出“治理黄河,重在保护、要在治理”,同时要求“协同推进大治理”,探索高质量发展的战略思想。2021年10月国务院常务会议审议通过《黄河保护法(草案)》,并于12月提交全国人大常委会审议,这是继《长江保护法》之后我国第二部流域专门立法。黄河生态环境的改善关系着亿万人民,具有重要的生态发展战略地位,近些年来随着黄河流域生态治理强度和广度的加
采用射频识别(RFID)方法为物联网和仓储建立感知系统,利用云端服务与各类智能终端对数据信息进行高效传输。为所有堆垛机上设置了RFID标签,通过多点定位的方法测试堆垛机方位。进行物品存储时,通过系统记忆和标识功能记录存储位置信息并实施可视化监管。通过测试发现:当编码长度增加或信噪比增大时,获得了更大的信号相关值和更高的检测率。随着标签数增多,执行时间表现为线性分布,利用和避免碰撞协议(UACP)执
当下,互联网教学发展方兴未艾,舞蹈艺术与科技的结合更是不断得到创新。随着新冠疫情的爆发,特殊时期的信息化教学在带来了巨大挑战的同时也推进和加速了课程教学的改革。基于此,本文以剧目课程为例,分析了普通高校舞蹈剧目排练课程的现状,阐述了“教”与“学”、“学”与“演”两张皮的两难问题,并提出了引入“资源库+在线平台”和建构“线上+线下”混合式教学模式等改革手段与优化策略,力求构建“课前有辅助、课中有效率
现如今,随着移动通信技术的快速发展,移动设备需要应对更加多样化的移动应用,对于计算资源的需求也在急剧增加。传统的云计算难以满足移动设备的低时延需求,而边缘计算通过在靠近数据源产生的地方为移动设备提供计算资源,极大地缓解了移动设备对计算资源的需求压力。然而,随着移动设备数量的激增,边缘计算网络环境也日渐复杂,离线静态的计算迁移难以实现同构任务完成时延和能耗的联合优化。此外,随着移动应用复杂度以及数据
目的 评价高效液相色谱法所用糖化血红蛋白校准品的基质效应。方法 参考方法为高效液相色谱串联电喷雾质谱法,两种检测系统分别测试20例临床样本和糖化血红蛋白校准品,校准品随机嵌入临床样本中,对检测数据进行统计,分析高效液相色谱法的检测结果是否处于可接受控制范围内,从而对所用校准品的基质效应进行评价。结果 高效液相色谱法的实测数值结果均位于95%的预测下限至95%预测上限的范围内。结论 糖化血红蛋白校准
明朝的内阁与清朝的军机处,这些机构都对皇权专制有一定的推动作用,但其因为自身或外部原因,总会存在一些弊端。本文从这两个制度入手,进行了简单探讨。