TensorFlow与ONNX模型转换研究与实现

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:luochaojie123456
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着人工智能快速发展,深度学习技术已经在许多领域发挥出巨大的作用。目前TensorFlow框架作为最主流神经网络框架之一,根据实际应用或再训练场景的改变,部署神经网络模型需要重新构建和训练模型,并且部署过程十分耗时。为了解决这一问题,微软联合多家公司推出了开放神经网络交换格式(Open Neural Network Exchange,ONNX),采用统一的标准保存深度学习模型。将TensorFlow模型转换为ONNX模型,用来解决TensorFlow模型部署到其它深度学习框架所面临的挑战。将TensorFlow模型转换为ONNX模型,降低了神经网络模型部署所需要的时间成本及资源消耗,具有实际应用意义。本文设计并实现了将TensorFlow模型文件转换为ONNX模型文件的转换工具,支持TensorFlow框架下的Saved_model和Frozen_graph两种格式的神经网络模型向ONNX的转换。转换工具的实现包括TensorFlow模型加载、模型转换、ONNX模型保存三个部分:首先是加载TensorFlow模型文件,对文件进行反序列化操作得到TensorFlow模型对象,通过预处理操作获取TensorFlow模型对象内部的模型、计算图、计算节点信息;然后是完成TensorFlow模型到ONNX模型的转换,从TensorFlow模型的节点中提取节点内部包含的信息,将TensorFlow节点信息转换为ONNX支持的节点信息格式,通过映射操作将节点转换为ONNX操作集中已经支持的操作,生成TensorFlow节点对应的ONNX节点,利用转换得到的ONNX节点生成ONNX计算图,并且采用了计算图优化策略,对转换后的ONNX计算图进行优化来简化计算图结构,通过ONNX计算图生成ONNX模型;最后是ONNX模型的保存,将TensorFlow模型转换得到的ONNX模型对象执行序列化操作,最后将序列化后的ONNX模型保存,得到目标ONNX模型文件。最后通过测试用例对模型转换进行了测试,测试用例使用Le Net5、Alex Net、LSTM和GRU等经典神经网络模型的TensorFlow模型文件。对转换前的TensorFlow模型与转换后的ONNX模型进行了对比分析,并测试了模型的推理精度。实验结果表明,本文模型转换工具可以实现TensorFlow模型到ONNX模型的转换,转换前的TensorFlow模型和转换后的ONNX模型推理精度保持一致,模型转换工具可以完成TensorFlow模型文件到ONNX模型文件的转换。
其他文献
在现代信息化社会中,电子投票逐渐取代了传统的纸质投票方式,受到了越来越多的研究者的关注。然而,电子投票系统面临着选票隐私泄露、选票填充攻击、投票活动被恶意投票者中止等诸多安全挑战,严重制约了其广泛应用。与此同时,区块链作为基于点对点网络的分布式账本,具有去中心化、去信任、不可篡改的特点,这些特点与电子投票系统中的公告栏的安全要求不谋而合。因此,将区块链技术与现代密码学技术,如零知识证明、承诺、签名
学位
无人机已广泛应用于不同领域中,随着任务场景不断的复杂化,单架无人机已无法很好的完成探测、侦察任务。多架无人机构成的无人机集群在任务执行时需要协同配合完成信息交换和收集,而一个良好的无人机集群自组织网络(Flying Ad Hoc Network,FANET)是集群内部完成信息交换的基础。在FANET的研究中,无人机高速移动造成网络拓扑剧烈变化以及无人机节点自身能量有限是影响无人机集群网络性能的两个
学位
过去的五十多年间,芯片上集成的晶体管数量在摩尔定律的引领下每两年增加一倍,其速度和效率持续提高,但是自从半导体工艺进入到28nm节点后,先进工艺所带来的研发成本和物理极限问题加大了延续摩尔定律的难度。在这样的背景之下,芯粒技术的出现为维持性能、制造成本和物理极限三者之间的平衡提供了可能,设计人员将复杂的So C按照功能划分为多个裸片,完成裸片之间的互连后将它们封装在多芯片模块中,多个裸片协同工作,
学位
随着电动汽车产业的发展,对芯片的需求量日益剧增,国内的车企大多使用国外的芯片作为主流产品,来获得汽车的电气系统的稳定性与可靠性。步进电机驱动芯片是车规芯片中最常用的芯片之一,被应用在各种机械连接的场合下。但我国车规芯片的发展时间较短,稳定性和可靠性目前没有得到国内市场的认可,可替换性较差,所以对车规芯片所需的高可靠性和稳定性研究也越来越受重视。本文对步进电机的原理和步进电机驱动芯片的原理进行分析描
学位
随着数字图像处理技术的日益发展,普通的数字显示设备由于自身工艺的限制,其动态范围难以达到人眼的级别,再加上成像环境的影响,显示出的图像经常存在着曝光不平衡、颜色失真和运动阴影等问题,图像质量已无法满足人们的要求。宽动态范围(Wide Dynamic Range,WDR)技术则正是致力于解决此方面的问题,借助于WDR技术,数字显示设备能够分辨出图像最亮和最暗的部分,因此对于图像高光和阴暗区域的曝光能
学位
随着芯片制造工艺的发展,单个晶体管的体积和功耗变得越来越小,单位芯片面积可集成的晶体管数量遵循摩尔定律提升,这导致高端芯片的整体功耗在不断上升。晶体管密度的增加使芯片上的金属布线变得越来越密集和纤细,芯片整体功耗的增大又使金属布线的电流密度越来越大,从而引发了芯片出现EM、IR-Drop等非理想效应,这些效应对芯片的可靠性构成了严重威胁,同时芯片整体功耗的上升也给芯片的热设计带来了巨大的困难,可以
学位
近年来,无线充电技术的普及对各类便携电子设备提出了快速发展的要求。无线充电芯片由于其耦合线圈输入范围较宽,无法直接对芯片内部各个功能模块进行供电,所以需要一种低压差线性稳压器(LDO,Low Dropout Regulator)电路,可将输入电压转换为合适的低电压并对内部电路供电,从而使无线充电芯片内部模块正常工作。基于上述问题,本文的主要研究目标是设计一个用于无线充电芯片内部的宽输入LDO电路。
学位
在卷积神经网络中,深度学习技术凭借其强大的特征提取能力、较强的分类能力,近年来在自然语言处理、语音识别、计算机视觉等领域都有广泛应用。但这种优异性能依赖于大量的参数量和计算量,随着卷积神经网络应用领域的不断扩大,与之对应的是需要有更好的硬件平台,其中就包括更高的计算能力和更好的数据带宽。目前行业内的佼佼者都在致力于挖掘各种基于芯片的解决方案。而CPU和GPU更高的功耗以及需要根据场景进行布置,此方
学位
在当今这个剧烈变化着的时代,伴随着诸如可穿戴电子产品、无人机、商用服务机器人、电动车内的各系统的车载控制器等智能设备越来越成熟、产品性能需求越来复杂,对充当伺服控制器的芯片的功能要求也越来越多变。因此采用旧有硬件结构的伺服控制器逐渐难以平衡实际应用中工程需求的各个方面。与此同时具备相当灵活性的So C设计也逐渐应用于伺服控制领域,伺服控制集成电路IP化已经是必然的趋势。目前,国内主打面向控制类需求
学位
随着信息时代和人工智能时代的快速发展,移动终端设备已经在人们的生活和工作中发挥了不可替代的作用,这对移动设备的充电速度以及充电设备的便携性都提出了更高的要求。反激式变换器以其拓扑结构简单、成本低和天然隔离输入输出环路的优点,在小功率变换器以及便携式设备的充电器领域广受欢迎。GaN功率管因为有着更高的迁移率,相比于传统的Si功率管有着更好的开关响应,在高速开关的场合中得到了越来越广泛的应用。本文设计
学位