基于DPU加速的CNN推理系统设计与实现

来源 :电脑编程技巧与维护 | 被引量 : 0次 | 上传用户:ZPHZPH
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对卷积神经网络推理阶段的高性能需求与边缘设备的性能限制导致的推理实时性问题,利用软硬件协同设计的思想,采用DPU实现了CNN的推理加速,提高计算性能的同时降低了推理时间。首先搭建了基于DPU加速器的硬件与软件平台,其次为了降低CNN模型的存储体积和计算量,对模型的数据进行量化与预编译处理,最后使用DPU对ResNet50进行了加速测试。在单次推理测试中,DPU的运算性能为76.43GOPS,平均负载为73%,耗时100.88ms,与CPU相比推理速度提升了40.48倍。在多次推理过程中,两次推理之间间隔
其他文献
为了分析混凝土徐变对箱梁剪力滞效应的影响,针对逐跨施工连续梁桥,根据铁路桥涵混凝土设计规范要求,考虑混凝土滞后弹性变形和各跨加载龄期的不同,采用有效弹性模量法计算结构徐变次内力,应用能量变分法分析徐变对箱梁剪力滞效应的影响.结果表明:对于逐跨施工的两跨连续梁,徐变增大了负弯矩区的截面应力,减小了跨中正弯矩区的截面应力,同时徐变增大了梁轴向的剪力滞系数,使剪力滞效应更加明显.
清洁能源接入比例和终端电气化率的快速提升给城市电网带来了新的挑战,亟需研究城市电网形态演化规律,并为城市电网的发展提供针对性建议。首先,从设备网架层面、通信调控层面、市场服务层面分析城市电网受到的挑战;其次,从源-网-荷角度分析,梳理出围绕灵活性展开的城市电网演化主线;再次,从灵活性角度出发,研究新形态城市电网在清洁能源消纳能力、电网经营效益、可靠运行能力、多元服务能力四个方面的特征,并提出以灵活性提升为指引的发展目标和具体任务;最后,建立指标集评价新形态城市电网发展情况。
在数据结构中,有一种结构较为特殊,它就是字符串,原因是其处理的数据被限定为字符类型。在实际的研究和学习过程中,需要处理很多数据,而字符串就占了大部分,它比一般的数值型
针对传统移相全桥损耗大、结构复杂等缺点,本文设计了一种新型无源箝位移相全桥变换器。通过一个辅助电容和两个辅助二极管即可实现全软开关的功能,次级采用无源箝位电路吸收并利用漏感能量,无需增加主动控制器,无耗能元件,因此结构简单、系统损耗小、占空比丢失少。同时基于光伏电源设计了控制策略,改进了最大功率追踪。最后通过MATLAB进行仿真验证,结果表明所提的拓扑结构开关管电压应力减小,最大功率追踪抗扰动性能良好,升压效果明显,响应速度快,无超调且纹波系数小,适用于光伏发电等对变换器输入输出增益及功率密度要求较高的应
随着分布式发电系统的发展,可再生能源并网呈现低密度和大规模的趋势,给电力系统带来了同步稳定性的挑战。为了研究在大规模分布式发电系统并网情况下的电力系统同步稳定性,本文以带节点负荷的非均匀大规模分布式发电系统为对象,首先结合下垂控制和Kuramoto模型推导了该系统的数学模型,并基于此模型推导出系统节点锁相的必要条件;然后利用?ojasiewicz不等式判断系统收敛到同步稳定点的速率。为了验证理论结果的有效性,基于实例低压配电网络构造出带有节点负荷的3种基本网络,并设计了一个低压微电网系统。仿真结果表明,星
Photomosaic images are composite images com-posed of many small images called tiles.In its overall visual effect,a photomosaic image is similar to the target im
软件的需求风险分析对项目的成败起着重要的决定性作用。为了对需求风险进行定性评价、定量评估,首先对软件项目的需求风险影响因素进行识别,建立风险因素的模糊变换矩阵,然
We present a one-step route for the preparation of nickel phosphide/carbon nanotube(Ni2P@CNT)nano-composites for supercapacitor applications using a facile,ultr
在软件测试的环节中,需要准备和维护大量的测试数据,随着软件系统所处理的数据量日益增大,测试数据的需求量也越来越大,传统的手动创建测试数据方式已经无法满足当今的软件测
根据机车内燃机的工作特性,提出柴油机电子调速控制系统的设计方案,并围绕柴油机调速控制设计电调控制软件整体架构,根据控制算法对柴油发动机电子调速控制系统的主要软件模块展开设计说明.所使用的电控单元采用资源丰富的恩智浦车用级芯片MC9S12XEP100为核心微处理器,在CodeWarrior开发环境下使用C语言编写软件代码,并基于实验室模拟平台进行软件调试.结果显示,电压信号在转换的过程中量化精度为千分之一误差小于百分之一,满足要求,随着转速的增加输出信号的频率没有出现加大变化,为幅值稳定的脉冲信号,转速调理