基于注意力机制的光谱地物分类方法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:walker1116_2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
光谱特征反映了目标材质构成和目标状态的本质特征,不同目标材质不同状态下的光谱辐射特性差异反映了其本征差异。在多时相多光谱分类问题和高光谱分类问题中,其数据具有维度高、相关性强和非线性等特点,如何分辨具有不同辐射特性的目标,尤其是光谱特性差异不大的相似类别仍是一个困难的问题。
  分析了认知心理学和认知神经科学中的注意力机制研究现状,认知心理学中的注意力模型解释了注意力如何关注高优先级的输入信息而忽略其他输入信息的处理流程,而神经科学中的电生理研究,刺激技术,成像研究以及神经病学损伤个体数据都反映了注意过程的神经处理机制。深度神经网络模型中,注意力机制在很多领域中已经得到了成功的应用。受深度网络序列模型研究范式的启发,将注意力机制与高光谱以及密集时相多光谱分类网络相结合,研究了几种高光谱以及多时相多光谱分类算法,并利用注意力机制重点关注目标类别之间的细微光谱差异和时相物候差异。其主要创新点如下:
  针对高光谱类别间存在的某些细微差异,提出了一种基于光谱注意力机制的SA-CNN-GRU(Spectral-Attention-CNN-GRU)分类模型。该模型把高光谱像元看作一个光谱序列,首先利用CNN卷积层提取像元邻域的空间信息,然后利用GRU(Gated Recurrent Unit)门控循环单元对光谱序列进行建模,并引入光谱注意力模块关注光谱谱段间的差异,对于类别差异较大的光谱谱段得到较大的注意力权重,类别差异小的光谱谱段得到较小的注意力权重。实验分析表明,注意力模块提高了高光谱分类模型的精度,尤其是那些具有细微光谱差异误分率较高的类别。除此之外,模型中的注意力权重在一定意义上还表明了各个谱段的可分离性以及对高光谱的光谱波段优选也具有重要的定性和定量参考价值。
  针对作物分类问题中某些相似作物之间的差异主要表现为细微物候差异的情况,提出了一种关注作物细微物候差异的分类方法。该方法在时间序列信息处理中引入注意力机制,通过观察物候序列的差异,对于作物的物候差异较大的时段投入更多的关注,从而强化作物在特定关键时间段的特征表达,其对于特定情况的作物分类可以起到关键作用。对于Sentinel-2和Landsat-8的密集时相数据,首先利用卷积层统一Sentinel-2和Landsat-8的空间-光谱特征尺度,然后通过一个信息查询模块搜索各个时段的信息量,即得到各时段注意力权重。实验结果表明,该方法在密集时相的作物分类任务中相比其他方法可以达到更好效果,特别是对那些具有相似物候规律且误分率较高的作物类别。
  借鉴自然语言处理中近来取得极大成功的Transformer模型架构,提出了一种CNN-Transformer模型对多时相多光谱数据进行作物分类。该方法将多时相数据视为一序列特征,并从自然语言处理中借鉴了具有强大的序列信息建模能力的Transformer架构,对作物分类中时间序列之间的相关性进行建模。模型中,首先获得统一的多时相特征,然后得到序列信息的特征嵌入和位置嵌入。其次,使用从Transformer得到的编码器模块来表达序列的相关性,并且通过将编码器模块堆叠获得序列的深度模式特征。在实验中,结果证明了所提出的CNN-Transformer方法与传统方法相比具有明显优势。
  借鉴挤压激励变换(SENet)思想和基于交错组卷积的模型冗余消除策略,进一步研究了基于组注意力和交错组卷积的高效多时相多光谱农作物分类模型。模型利用组特征挤压激励变换得到时相序列中各个特征组的注意力权重,通过组注意力“特征重标定”策略对序列组特征进行重新标定强化作物的细微物候差异。并利用交错组卷积中计算量较小的稀疏核矩阵相乘代替普通卷积计算中的稠密矩阵运算,通过引入交错组卷积模块,模型参数得以降低,整体模型得以简化。该模型不但可以提取密集时相中各作物的细微物候差异,其模型计算效率也得以提升。
其他文献
随着互联网的快速发展,以微信、微博为代表的自媒体平台成为信息发布和传播的主要媒介。舆情从现实世界转移到网络虚拟空间,一些社会突发事件或公共问题往往成为社会舆论焦点,诱发网络舆情。舆情反转是网络舆情中的一种重要现象,反转事件的频繁上演,不仅损害媒体的公信力,也造成一定的社会负面效应。目前关于舆情反转的研究多以定性分析为主,较少从定量角度研究舆情反转的演化规律。因此,运用科学可靠的技术手段分析舆情反转的内在原因及演化过程,具有重要的研究意义。
  本文基于现实社会的个体视角,采用数学建模、计算机仿真分析
群智能指的是在由众多简单个体组成的种群中,个体遵循简单的行为规则并且彼此进行交互时,在宏观层面上涌现出来的智能现象。目前,对群智能的研究多集中于对群智能优化算法的研究,主要体现在提出的一些新型群智能优化算法,例如狼群算法、狮群算法,或是对已有的群智能优化算法加以改进,例如对经典的蚁群算法、粒子群算法、遗传算法等群智能优化算法加以改进,使其在某些性能指标上得到改善。本文针对以蜂群劳动分工为代表的群智能劳动分工展开相关研究,将关注点由群智能优化算法转移到对种群协调分工相关问题的研究。
  群智能劳动分工
随着经济和互联网的发展,客户订单数量激增且种类繁杂,配送中心为了降低物流成本同时提升服务质量,以快速高效的将商品配送到客户手中,就需要对其作业流程进行优化。其中订单拣选作业是配送中心人工成本最高的部分,因此制定合理的订单拣选作业解决方案,不仅可以提高订单拣选效率,同时也能提高订单准时性。然而,目前多数关于订单拣选作业的研究都忽略了拣货员之间的路径冲突,并且订单拣选作业的优化目标都比较单一。因此本文重点研究考虑路径冲突的拣选路径优化问题,建立符合实际情况的优化模型并求解,对于指导配送中心的订单拣选作业具有非
近年来,深度神经网络已经在人类日常生活中得到广泛普遍的应用。但有研究表明这些模型并非完全可靠,它们容易受到对抗样本的攻击而做出违背人类直觉的判定。研究对抗攻击既可以作为衡量神经网络鲁棒性的基准,促进建立结构更合理、鲁棒性更强的模型。又可以作为保护人类隐私的手段,遏制利用深度神经网络恶意窃取个人信息的违法现象。
  理想的对抗样本应在保持攻击成功率的同时不影响人类的正常判定,即兼具隐蔽性和攻击强度。针对对抗样本的隐蔽性,本文提出了一种基于注意力机制的空间转换对抗样本(A-stadv)生成算法。该算法首
温度能够反映生物体的新陈代谢和健康状况等,因此活体内温度的准确测量,一直是众多科研人员努力的方向。由于生物体的电阻特性、不透明性等,以及出于安全性、舒适性等考虑,磁学温度测量/成像逐步成为最具前景的医学影像方法之一。因此本文对基于磁纳米粒子磁化响应和基于核磁共振机理的两种磁学测温方法进行研究,以外加激励磁场对磁纳米粒子磁化响应的温度敏感性的调控规律为出发点,优化了磁纳米粒子直流测温模型的测温性能,并重点探究了将氧化铁磁纳米粒子作为温度传感器实现高灵敏度的核磁共振温度测量和温度成像的可行性。具体内容如下:<
高技术战争条件下,攻防对抗双方呈现出高机动、智能化与群集化的发展趋势,在未来高动态对抗环境下,对抗双方面对的将是机动性更强、智能化水平更高、群集规模更大的对手。对于攻击方而言,需要提升对目标的拦截能力,一方面可以通过改进导航、制导控制系统提高命中精度,提升单发拦截概率;另一方面可以采取多对一方式,通过协同拦截提高对目标的毁伤概率。反之,对于防御方而言,一方面可以通过提高预警能力,释放诱饵与干扰或实施最优躲避机动,增加攻击方的脱靶概率;另一方面可以采取主动防御方式,发射防御导弹,对攻击方实施主动拦截,同时进
区块链作为一种新兴的分布式数据存储技术,具有去中心化、开放、透明、安全、共享、可追溯等特点,其不仅在金融领域广泛应用,而且在能源领域,尤其是在能源互联网领域逐渐受到重视。利用区块链来实现分布式电能的去中心化交易,有可能引发能源互联网领域从网络架构到交易方式的一次大变革。本文以电能预测、电能交易、电能传输为研究主线,以区块链为核心,同时结合人工智能、电能路由等方法和技术,阐述了分布式电能从生产到交易最后到传输的技术体系。此外还将分布式交易系统进行模块化设计,指出了各个部分的难点,并根据分布式电能交易的特点对
测量是人类从客观世界获取信息的主要手段。随着人们对信息理论的数理基础与内涵认识不断深入,基于信息熵方法的应用遍及许多科学领域并取得了许多不同于一般传统方法的良好结果。在本世纪初,由我国测量领域研究工作者提出了“测量的本质就是信息获取”的论述。论文在这一思想指导下,探索构建一种以香农信息熵为度量,在随机、不确定条件下对一般测量过程实现其描述、分析和评价的统一方法。论文的主要内容如下:
  根据部分信息进行估计,满足已知信息且具有最大熵的概率分布是唯一且无偏的,提出了一种任意信源熵由无穷多个子熵集构成的
荧光显微镜属于衍射受限系统,成像时受系统带宽影响,截止频率外的频谱丢失,采集的图像存在分辨率极限:当两个荧光基团之间的距离小于分辨率极限时,其像点将融合为一个。结构光照明显微镜(Structured Illumination Microscopy,SIM)是近20年来逐步发展起来的超分辨荧光显微镜,能够摆脱传统荧光显微镜衍射极限的桎梏,横向分辨率提升到一百纳米以内,具有光子效率高等优势,有望取代广泛使用的共聚焦显微镜。然而,现有的SIM显微镜时间分辨率较低、连续成像帧数较少。虽然可以通过降低激发光强度、缩
动平台动目标检测是指在运动成像平台获取的图像序列中检测运动目标,将运动目标从运动场景中分离出来的过程。它是视频分析理解的基础性步骤之一,在视频监控、智能辅助驾驶、机器人环境感知、以及光电侦察、精确制导等军事领域均有非常广泛的应用。准确高效的运动目标检测是上述高层视觉任务能顺利完成的保障,但也面临许多挑战,包括:1)复杂运动场景和成像条件下,特征提取及准确建模难;2)目标和背景的运动相互耦合,目标准确分离难;3)有限资源约束下,运动目标实时检测系统实现难。针对上述挑战,本文围绕基于图像配准的动平台动目标检测