基于NAS的自动机器学习系统的设计与实现

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:hongwei3330857
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着近些年来机器学习在科研与工程届的发展,其创建的模型越来越复杂,如果整个模型的参数都依靠人类去设计,这将会耗费掉大量人力资源。自动化的概念也正在与时俱进,以前定义的自动化是让机器代替人去操作,那么随着信息化的发展,自动化的概念也被认为机器应该可以代替人类的脑力劳动。而自动化机器学习系统就可以很好地解决以上需求。现有的自动化机器学习系统大多数是基于传统机器学习方法,通过贝叶斯算法或者进化算法选择不同的算法模型,较为缺少基于深度学习的一站式自动机器学习系统,同时现有神经网络架构搜索算法忽略了对增量学习的支持。针对上述问题,本文提出了一种基于知识蒸馏的增量神经网络架构搜索算法,填补了神经网络搜索算法在这一处的空白,解决了神经网络架构搜索算法在进行新样本的学习过程中遗忘旧样本数据的问题。避免训练后的模型对旧样本数据产生“灾难性遗忘”的问题。本文提出的算法模型,可在没有旧训练数据输入的情况下,对旧数据仍有较好的表现。本文设计并实现了一个基于NAS(神经网络架构搜索)的自动机器学习系统,系统包括数据管理中心、模型中心、存储和自动机器学习算法四个主要模块,用户通过网站访问服务,对模型以及数据进行管理,当用户提交训练请求后,算法模型进行异步训练,待完成训练之后将结果返回给前端展示给用户。存储模块为用户训练时的数据提供稳定可靠的支持。通过对比试验以及系统测试,本文提出的基于知识蒸馏的增量神经网络架构搜索算法达到仅次于新旧数据联合训练的效果,明显优于普通只对新数据进行训练的模型。系统功能实现完整,具有较高的可用性和鲁棒性。
其他文献
碳纤维复合材料是一种性能优越的高比强度材料,应用在轨道车辆上能够大幅度降低车辆质量,为轻量化制造提供有效途径.文章根据标准设计了含有不同尺寸和位置缺陷的对比试块,采用常规超声波脉冲反射技术和视频超声技术进行检测,实现对碳纤维复合材料的快速扫描检测,验证了检测结果的一致性,并讨论了视频超声检测技术在轨道车辆车体用碳纤维复合材料分层等缺陷检测中的适用性.
根据车钩缓冲装置结构、运动机制和控制原理,结合车钩缓冲装置安全运用及状态检查技术,进行了钩缓装置远程控制及状态监控技术研究.同时介绍了钩缓装置远程控制及状态监控系统的系统功能、系统组成及关键技术,并进行了实例分析.
近年来,高速铁路运营总里程和动车组数量不断上升,工业互联网、5G、云计算、大数据、物联网等技术的快速发展和应用推动了轨道车辆装备的智能升级和转型,基于故障预测与健康管理(P H M)的智能运维体系被引入到动车组全寿命周期管理.文章根据PHM技术理念及设计方法,搭建了智能动车组PHM系统,重点介绍了智能动车组PHM系统的设计需求、体系架构、设计方法、技术方案以及实际应用.
传统的推荐系统假设用户在过去一段时间内对一些商品比较感兴趣,则相似度较大的用户也可能有相同兴趣。但用户特征不会稳定不变,原有特征也会随着时间而转移。考虑到基于协同过滤的推荐系统忽略了用户兴趣转移这一特征对用户相似度的影响,因此,根据用户兴趣变化,基于行为序列建模的推荐可以提高推荐质量。本文主要围绕三部分展开。第一部分,通过移动网络大数据的用户行为数据挖掘出用户的潜在兴趣特征,结合用户偏好、数据类目
随着移动通信技术的发展以及各种移动智能终端的广泛普及,高清视频传输,增强现实/虚拟现实以及自动驾驶等大量的移动互联网新兴服务陆续出现。在此背景下,为了进一步满足诸多应用对于网络的时延、能耗等需求,业界提出了移动边缘计算和超密集组网的概念。基于二者,网络承载能力和网络服务能力都得到了有效的提升。而基于二者的融合架构一方面可以有效的将计算存储等能力拓展到网络边缘;另一方面超密集组网技术也为用户设备扩张