二值化神经网络忆阻加速器设计

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:youngpansy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着深度学习和计算机理论的发展,人工智能(AI)逐渐在各个领域凸显其功能的强大。随着存内计算概念的兴起,传统冯诺依曼计算机架构的瓶颈有望得以解决,更重要的,基于以忆阻器为代表的新型存储器件的神经网络加速器将人工智能由云端计算推向用户边缘端计算,但同时也对硬件实现提出了更高的要求。二值化神经网络因具有存储空间小、运算速度快和能耗低等优点很好契合了边缘端人工智能应用而受到广泛关注,本文针对传统二值化神经网络忆阻加速器中不足之处,在权重硬件实现、鲁棒性、批归一化硬件实现等关键问题上开展研究,为未来计算与存储融合的新型计算机架构提出原始创新与理论基础。相关研究工作如下:(1)权值硬件实现方面,本文将二值化神经网络优化为激活值0/1,权值+1/-1的硬件友好网络并结合二值化神经网络函数特点,针对传统“差分对”架构缺点提出了“选择列”架构,其具有面积小、电路简单等特点,通过了MNIST手写字体识别任务验证。(2)鲁棒性方面,本文以实验室研制的W/Al Ox/Al2O3/Pt二值忆阻器作为二值化权重单元,基于其实测的电学特性进行二值化神经网络仿真,建立错误模型并评估所提出的选择列方案鲁棒性。结果表明:二值化神经网络忆阻加速器选择列方案能够在器件均一性、器件开关比、器件良率、器件与电路噪声等不同非理想因素下达到预期的网络识别率,具有较高的非理想因素鲁棒性。(3)批归一化硬件实现方面,结合二值化神经网络批归一化操作与激活函数特点提出忆阻K常数批归一化法,将上述操作合并为一步操作并用忆阻阵列实现,大幅削减外围电路复杂性并保有网络灵活性。网络仿真表明在器件不一致性(Variation)小于0.5情况下,该忆阻K常数批归一化法具有优于高精度CMOS批归一化法的网络精度,理想情况下达到了96.1%的网络识别率。
其他文献
随着城市基础地下设施的发展及对火灾安全监测的需求,利用近年兴起的光纤火灾监测技术对地下管网安全监测具有很大的现实意义。本论文在研究光纤火灾监测系统中的拉曼散射效应基础上,提出采用神经网络算法实现光信号至温度的解调,能够根据实际情况对光信号的衰减和系统误差进行补偿,对光纤传感监测技术的应用具有很大的实际意义。论文对光纤火灾监测理论及系统结构,神经网络算法进行了深入研究,设计并完成了监测软件,工作如下
学位
20世纪70年代开始,光纤通信技术迅速发展,光纤传感技术也并驾齐驱,其已被广泛应用于军事国防、航天航空、能源环保、生物传感等各个特定领域。干涉式光纤传感器由于灵敏度较高的优势,成为了光纤传感技术研究中的一大热门。传统干涉解调主要利用到的干涉参量包括强度、波长和相位,其在解调过程中容易受到光源功率抖动、参考臂相位漂变、光谱仪波长漂变等问题的影响。考虑到干涉光谱中未被利用到的条纹对比度,本论文提出了一
学位
基于双光子吸收的飞秒激光直写技术具有超越光学衍射极限的加工精度以及复杂三维结构的加工能力,在微光学器件、光子材料制造、微流控器件、光子集成芯片以及生命科学等领域具有广泛应用前景。在利用激光直写技术制造三维结构时,加工路径对结构的性能有着重要影响。本文针对基于双光子吸收的飞秒激光直写技术制造三维结构中结构加工路径的规划方法和修正进行了详细研究。论文的主要工作包括以下方面:(1)完成了飞秒激光直写三维
学位
对区域用电负荷监测是实施电力需求侧管理的重要方法,具有显著的社会效益和经济效益,而非侵入式负荷监测(NILM)无需进入用户内部,通过智能化感知方法将用户总负荷分解为各用电设备的信息,是负荷监测的主流方法和发展方向,具有重要研究价值。目前NILM存在着识别精度低、数据量大、对云计算技术依赖性强等问题,本文设计一种基于V-I轨迹图的非侵入负荷识别设备和系统,不依赖云计算,在用户侧即可识别负荷信息,有效
学位
光纤布拉格光栅利用纤芯折射率的周期变化,使入射到光纤光栅上的光产生衍射效应,从而达到滤波的效果。由于其损耗小、成本低、抗电磁干扰和耐高温,光纤布拉格光栅已被广泛用于通信和传感领域中。现阶段光纤光栅制备工艺已十分成熟,但现场工艺操作者并不熟悉光纤光栅理论,无法进行光纤光栅设计。在实际应用中,光纤布拉格光栅的结构对其光谱影响显著,这就需要制备人员了解光纤布拉格光栅结构,并根据应用的需求,设计并制备满足
学位
太赫兹波是6G通信的主要通信波段,太赫兹调制技术作为其核心部分值得深入研究。等离子体诱导透明这种具有色散、低损耗与慢光效应的类电磁诱导透明现象,得益于超材料的发展,变得较为容易实现与产生。钙钛矿由于其优越的光电响应,可以应用在太赫兹调制技术上。本文研究了基于等离子体诱导透明及钙钛矿的太赫兹超材料调制器,主要研究内容如下:(1)研究了等离子体诱导透明现象产生的原理,并用洛伦兹耦合模型分析了等离子体诱
学位
随着半导体器件特征尺寸的不断减小,MoS2因其优异的电学性能被认为具有作为下一代纳米电子器件沟道材料的潜力。虽然对于MoS2FETs(Field-Effect Transistors)的研究已经取得了一定的进展,但器件载流子迁移率仍远未达到其本征极限,限制了MoS2在高性能半导体器件的应用。因此,本文主要围绕着提高MoS2FETs迁移率展开研究。实验方面,以SiO2作为栅介质,在150、200和2
学位
现代计算机技术的发展和普及使其容量和处理速度得到了提高,但现有的计算机架构仍受限于冯·诺依曼体系结构,在大数据时代,难以满足人工智能对海量信息进行高效处理的要求。为了从根本上摆脱运算和存储单元分离的内存墙问题,实现内存计算,研究者受到人脑低功耗和高度并行计算的结构和功能启发,想要通过拟人脑神经网络的方式实现类脑计算并提升效率。随着各种新型的非易失性存储器的产生,如何将其用于电子突触实现对生物突触的
学位
现代舰船的雷达隐身需求催生了隐身桅杆设计等研究焦点。针对桅杆天线雷达频段的波谱通带、及多角度雷达波隐身需求,开展了天线罩带通、带阻设计,桅杆多阵面的雷达吸波材料应用,及桅杆模型的雷达波散射特性调控与RCS缩减研究。通过仿真设计与桅杆模型的试验测试,取得了如下主要结论。针对桅杆天线口面雷达波强散射源,设计加载三层式FSS的天线罩,实现了桅杆天线工作频带的通带和非工作频带的阻带功能,降低了桅杆非工作频
学位
随着民用的消费电子、安防消防和公共卫生领域智能化的发展,具有探测功能的热释电红外探测器得到了广泛的运用。热释电红外探测器是非制冷型红外探测器的研究热点,它具有易于生产、成本低廉、操作简便的特点,且市场对热释电探测器的生产需求急剧增加,为了提高释电红外探测器产品的检测效率,多通道的热释电红外探测器测试系统的需求应运而生。首先,本文设计了96通道热释电红外探测器测试系统的硬件电路。硬件部分主要包括五个
学位