基于忆阻交叉阵列的深度神经网络系统及其应用

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:uf
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习的神经网络相较于传统神经网络方法显著的特点是计算量大,因此迫切需要计算系统具备更高的性能、更低的功耗来运行深度神经网络,本文的研究目标在于设计基于忆阻交叉阵列的深度神经网络电路,达到速度和能效的大幅提升,通过该电路实现图像语义分割、文本情感分析任务。
  本文将忆阻交叉阵列和深度学习中应用广泛的全卷积神经网络、长短期记忆神经网络结合,设计基于忆阻交叉阵列的深度神经网络,使用忆阻作为神经网络的突触,可降低整个电路系统的能耗和延迟。在实现全卷积神经网络设计过程中,本文利用忆阻交叉阵列实现包括卷积层、最大池化层和反卷积层三种重要神经网络层,然后将这些网络层通过辅助电路连通整合为完整的忆阻全卷积神经网络电路,并将设计的电路应用到图像语义分割;长短期记忆神经网络设计中,本文利用忆阻交叉阵列实现特征提取层和外部分类层电路,再通过辅助电路连接为完整的忆阻长短期记忆神经网络电路,通过将文本转为对应的词向量,再转换为对应的电压输入电路,再经过忆阻长短期记忆网络电路输出文本情感分析的电平,从而实现端到端的文本情感分析。
  本文的研究成果主要是研究实现了忆阻深度神经网络,重点设计了忆阻全卷积神经网络和忆阻长短期记忆神经网络,能够实现基于电路的深度神经网络的前向推理,以及实现端到端图像语义分割、文本情感分析功能。本文设计的基于忆阻交叉阵列的神经网络层,忆阻器存储神经元的值同时也参与运算处理,能够达到速度的大幅提升,并且主要层的设计方案可以推广到很多其他深度神经网络的电路实现中,未来有助于忆阻器应用于人工智能芯片中。
其他文献
传统巴甫洛夫联想记忆实现的学习和遗忘功能,分别对应于经典条件反射中的强化和消退定律。实际上,经典条件反射除了强化和消退定律外,还包含了泛化和分化定律。在传统的巴甫洛夫联想记忆基础之上加入泛化和分化功能,可以更加充分的模拟大脑的联想记忆过程,为类脑系统的进一步发展提供参考。
  本文设计了基于忆阻的联想记忆泛化和分化电路,电路经过最初的联想记忆学习之后可以对某种条件刺激做出反应,然而当相似的条件刺激作用于电路时,电路会做出类似的响应,这就是泛化现象。为了使神经网络电路能够充分的认知这两种相似的刺激并最
由于数字图像数量的快速增长,基于内容的图像检索已成为管理图像数据库的强大工具。但是,随着图像数据库的扩大,图像检索系统对存储和计算资源的需求随之增加。幸运的是,随着云计算的繁荣,中小型企业开始在云平台上构建和维护大型、经济、高效的图像检索系统。尽管云平台提供了便捷的存储、计算和通信服务,但它们带来了新的隐私问题。在加密图像上进行检索是一种保护用户隐私的技术,并且在过去十年中学者们已经进行了广泛的研究。尽管一些方案已经被提出并可以在一定程度上保护用户隐私,但是它们仍然具有一些缺点。首先,在实践中,仅图像的部
近年来,大学生心理健康日益成为高等学校乃至全社会关注的一个问题。在具有心理健康问题的大学生群体中,学校特别关心大学生心理危机个体,即有较高风险罹患心理疾病的大学生个体。这类学生可能会出现严重心理障碍,或者因为心理问题实施自残、伤人甚至自杀行为,从而严重影响学生的学习、生活和人身安全。
  心理量表是目前普遍使用的心理健康检测工具,然而直接使用量表的传统计算方法识别心理危机个体存在许多不足,导致较高的假阳率和假阴率。本文提出了一种基于图神经网络的心理危机个体识别方法,以弥补传统识别方法的不足。本文的主
近年来,移动互联网、边缘计算、物联网等技术的发展和成熟催生了大量新的移动设备和移动应用,如有健康监测功能的可穿戴设备、移动电子商务、网络手游、短视频等。这些新兴的移动应用有着更高的数据存取需求和更大的计算量,同时表现出新的数据存取模式和数据分布特征。小文件随机读写操作占到这类移动应用中数据存取的很大部分,这种大量的细粒度存储需求导致基于块设备建立的移动设备存储系统不足以满足这类应用的存储需求。研究表明,移动设备性能瓶颈由原来的网络和处理器已转为现在的存取能力。新兴的非易失性内存(NVM)具有可字节寻址、高
随着数字图像技术的发展和多媒体应用的普及,图像处理和传输变得越来越重要。人们对图像的传输和存储有了更高的要求,对图像的质量要求也逐渐提高,例如远程医疗、航空航天、多媒体教学和视频安防等领域。图像压缩编码在图像处理中起着至关重要的作用,此对图像压缩的相关技术和科研工作带来了全新的挑战。几乎所有多媒体应用都追求具有更高压缩率,更低计算成本和更好视觉质量的图像压缩技术,这也是图像压缩的三个关键指标。
  JPEG-XR(旧称HD Photo)是一种连续色调静止图像压缩算法,是在2007年由联合图像专家小组
图像检索具有重要的应用价值和研究意义,但也面临检索速度提升、结果排序准确性等诸多现实挑战。哈希技术通过将高维特征映射到低维二值空间,可有效加快距离计算,是目前提升检索速度的重要手段。此外,深度学习能够在一定程度上缓解图像底层视觉信息与高层语义信息之间的“语义鸿沟”。因此,将深度学习和哈希方法结合应用于图像检索具有重要的研究价值和意义。
  本文研究基于深度学习和哈希技术的多标签图像检索,针对目前多标签检索领域存在的3个研究难题,分别对其进行深入研究并提出相应解决策略。本文创新点和主要内容如下:
近年来,大量的研究者对文字、语音以及面部表情做了情感分析的研究。由于人类的情感是非常复杂的,且表达情感的方式也十分多样。所以同时考虑不同模态的特征,对于准确判断情感的倾向来说就显得尤为重要。现如今的研究大多停留在单模态或双模态的情感识别,存在着准确率不高的情况。所以本文为了解决该问题,针对文本、音频、视觉这三个模态进行了多模态情感识别的研究。本文的创新点主要有以下两点,总结如下:
  ①本文提出了一个基于信息增强的多层次上下文多模态情感识别模型IEF-BiGRU。该模型使用了信息增强的方式来放大多模
大规模图像检索任务通常被抽象为近似最近邻搜索问题(Approximate Nearest Neighbor Search,ANN),哈希方法作为ANN的代表方法,被广泛应用于图像检索任务中。近年来,基于深度神经网络良好的特征提取能力,一系列深度哈希方法被提出,也使基于深度哈希的多标签图像检索方法成为新的研究方向。
  本文聚焦多标签图像的深度哈希检索任务,着力解决其存在的多标签图像相似度的精确度量、图像代表性语义信息的提取、哈希码汉明距离与原始图像相似度的一致性保留3个难题,提出一种融合注意力机制和
随着车联网、无线通信技术的不断发展,涌现了一系列诸如超高清视频、自动驾驶等计算密集型、时延敏感型应用。传统集中式的云计算架构因过重的主网络负载和过长的服务响应时延,无法满足海量终端和新兴应用所需的低时延、高带宽等需求。有研究提出,联合车联网和雾计算形成车载雾计算(Vehicular Fog Computing,VFC),将计算、存储以及通信等功能从云端下沉到无线网络边缘,为移动终端提供邻近的实时计算服务,从而减轻网络负担,降低响应时延。VFC作为一种新的应用范式,在车联网中具有广阔前景。然而,VFC架构中
输电线路场景下,防震锤、绝缘子、导线等关键设备的损坏间接影响供电系统的正常稳定运行。定期巡检输电线路,可以有效的避免供电系统故障。如今通常采用无人机巡检输电线路,并拍下输电线路场景下的巡线图像,最后人工查看巡线图像中的缺陷。因此,为了提高输电线目标缺陷检查效率,需要研究输电线关键目标检测,实现目标的快速定位,最终提高输电线路巡检工作效率。
  在输电线关键目标检测研究过程中,以手工特征为主的传统目标检测方法,只能针对特定类型并且具有易区分特征的目标,其鲁棒性较差。当前主流的基于深度神经网络的目标检测