复数域卷积神经网络算法研究

来源 :黑龙江大学 | 被引量 : 0次 | 上传用户:xiaochushang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能已经成为当今社会的热点话题之一,这主要归功于深度学习的迅速发展,而卷积神经网络(Convolutional Neural Networks,CNN)是深度学习的重要模型。CNN主要被应用于计算机视觉领域,并在该领域取得了许多优异的成果。大多数CNN都是基于实数表示的,而很少是基于复数表示的。最近研究表明,基于复数表示的网络比基于实数表示的网络具有更好的表达能力,但现有的复数CNN模型存在一些问题。大多数模型是双分支结构,其中有一条分支没有复数卷积层(捷径连接)。相对于该结构,多分支结构每个分支都可以学习一种变换。另外,现有的模型没有关注复数特征图之间的关系,每个复数特征图对当前任务的贡献程度并不一致。本文针对这些问题,提出新的复数CNN模型,主要工作如下:
  (1)本文提出了复数域分解-变换-合并方案,构建了新的网络模型复数聚合残差网络(Complex-valued Aggregated Residual Networks,cResNeXt)。在尽量保持模型复杂度的同时,通过增加分支数,提升网络的性能。该网络的核心模块是多分支结构,每个分支都包含了3个复数卷积层。首先第一个复数卷积层将高维复数特征图分解成低维复数特征图。然后第二个复数卷积层将低维特征图进行变换得到同维度的复数特征图,第三个复数卷积层将低维特征图进行升维,得到了高维复数特征图。最后将每个分支的复数特征图进行同维度相加。另外,在该模块中添加了一条捷径连接,用来构建深层的网络。为了使该模块的结构更为简便,本文在该模块中应用了复数分组卷积方案,形成了一个新模块,该模块的多分支结构中只包含了第二个复数卷积层,并且分支的输入和输出的维度都是相同的。
  (2)本文提出了复数域特征重标定方案,并将该方案应用于网络中,构建了复数通道加权网络(Complex Channel-weighted Networks,cSENet)。通过学习各个复数特征图的相应的复数权重值,增强对当前任务贡献度较高的复数特征图,抑制贡献度较低的复数特征图。该网络核心模块的具体操作为,首先复数输入特征图通过全局平均池化操作得到每个复数输入特征图的全局信息。然后全局信息通过复数域门控机制得到每个复数输入特征图所对应的复数权重值。最后每个复数输入特征图与对应的复数权重值进行相应的运算得到复数输出特征图。其中,复数域门控机制是由两个1×1复数卷积层组成,第一个复数卷积层用来降低维度,可以减少计算量。第二个复数卷积层带有Sigmoid激活函数,可以把复数权重值的实部和虚部都映射在0到1之间。
  (3)结合以上两种方案,本文将cSENet融入到了cResNeXt中,提出了复数通道加权聚合残差网络(Complex Channel-weighted Aggregated Residual Networks,cSE-ResNeXt)。它的核心构件是将cSENet块连接在cResNeXt块的最后一个复数卷积层上,并用捷径连接将cResNeXt块的输入与cSENet块的输出复数特征图进行连接。具体流程为首先复数输入特征图x通过多分支结构,进行特征提取得到z,然后,z经过全局平均池化与复数域门控机制得到权值c,权值c与复数特征图z进行相应的运算得到s,最后输入复数特征图x与s进行同维度相加操作得到复数输出特征图y。
其他文献
半导体行业依旧遵循摩尔定律在高速发展,相应的通信技术亦有了长足的进步,每时每刻都有海量的信息在互联网上进行存储与交互。然而,近年来信息泄露问题频频出现,信息安全问题的重要性日益凸显出来。混沌系统以其独特的动力学行为特性与加密系统设计的两个基本原则“混淆”和“扩散”相符合而在信息安全领域大放异彩。然而,将存在于实数域的混沌系统用数字电路来实现时,发现其最终会坍塌到有限域上,出现短周期和多周期等动力学
随着移动计算和物联网技术的迅速普及,人们对位置导航的需求迅速增加。北斗卫星导航系统(Bei Dou Navigation Satellite System,BDS)、全球定位系统(Global Positioning System,GPS)等可以在室外提供良好的定位保证,然而因建筑物遮挡等原因无法服务于室内定位。无线局域网(Wireless Local Area Networks,WLAN)现已大
学位
图像在人类的社会发展、信息存储、认知学习中发挥着不可或缺的作用,但受到采集硬件设备及网络传输等限制,往往使收集到的图像分辨率不高,利用效果一般。而高分辨图像具有的更多细节信息能够带来更多的帮助,因此,图像超分辨重建技术便应运而生。图像超分辨重建是指在不升级硬件的条件下,从计算机数字技术出发,利用软件提升图像的分辨情况。该技术目前在公安、医学、航空、艺术等多个方面取得了广阔的发展。因此,本文在现有的
学位
高光谱遥感技术快速发展并被广泛地应用于各个领域。然而,由于高光谱图像的空间分辨率通常是数米或数十米,而实际地物确具有复杂的空间分布,从而导致一个像元内包含多种地物,就形成了混合像元。混合像元的存在会影响到高光谱图像的实际应用,而混合像元分解是一个行之有效的方法。随着高光谱混合像元分解研究的不断深入,真实高光谱图像中的先验知识是可以获得的,而且高光谱数据中含有大量的二维空间信息,表现出了丰富的空间相
肺癌的病死率一直高居我国各种癌症的榜首,随着人们生活环境改变,肺癌的发病率也在逐步上升,对于肺癌来说最重要的就是“早期发现,早期诊断,早期治疗”可以提升有效患者的生存率。CT图像是对肺部病变检查最好的手段之一,肺癌的早期诊断是通过对结节的判断来进行诊断的,将医学图像处理应用到计算机辅助诊断系统,精准的肺实质分割和肺结节分类算法不仅能提高医生的工作效率,帮助医生减少工作压力和误诊率的发生,更能提高诊
图像匹配主要原理是对两幅图片的特征描述子进行匹配计算,如果距离小于预定值,则判定为同一场景。本文对所用到的图像进行了预处理,基于尺度不变特征变换(Scale Invariant Feature Transform,SIFT)算法着重研究了特征点的聚类、检索、匹配,并将其应用在视觉定位中。本文提出基于SIFT的改进图像匹配算法。主要针对SIFT算法对图像进行特征点提取时由于数据库图像较多,每幅图片的
数字化图像是我国网络通讯的重要载体,它在多媒体、电子和网络通讯中扮演了广泛的角色,并且在通讯、医疗等各个方面起到了很大的作用。因此,对于图像加密技术的探索和研究,已经成为安全领域的重要课题。由于图像中的相邻像素之间冗余程度高、数据容量大,当利用传统的图像加密方法进行加密时,其加密效率较低,所以此类方法不适合应用于数字图像的加密。混沌系统以及DNA计算具有的特性,使其恰好适合于图像加密。本文基于目前
学位
无线通信行业的飞速发展,人们更加看重获取信息的质量,对通信速率和质量也提出了更快捷、更准确的要求。在第五代无线通信系统中,如何改善通信的性能提高频谱效率一直是众多研究学者们探讨的焦点问题。索引调制(Index Modulation,IM)是一种可以很好提升系统效率和性能的多维度技术,现已成为一个热门的话题。近些年,针对正交频分复用(Orthogonal Frequency Division Mul
随着人们对信息传输安全性及有效性要求的不断提高,迫切需要在现有硬件条件的基础上提高信息传输量和信息传输效率,并最大限度增强加密算法的安全性。图像作为一种常用的信息载体,具有较强的相关性以及较高的冗余度。然而,常见的加密方法无法满足图像加密的需求,所以需要寻求新的加密算法,并使其兼具安全性和计算速度的要求。压缩感知(Compressed Sensing)作为一种能够以远低于Nyquist定理的速率进
学位
遥感图像包含了大量的地物信息,在军事目标打击、土地监测、植被覆盖检测、森林火灾监控等军用、民用领域有着重要应用价值。但是由于遥感成像过程比较复杂,获得高分辨率的遥感图像并不容易。遥感图像超分辨重建技术就是一种在现有遥感成像技术条件下,利用软件处理的方法,突破成像系统的限制,由低分辨率图像生成高分辨率图像的技术。本文对当今较先进的卷积神经网络超分辨进行研究和改进,具体研究内容及创新点如下:1、提出改
学位