由于高光谱图像空间分辨率的限制,当感兴趣目标的空间尺寸比较小时,其在高光谱图像中以亚像元目标的形式存在。此时无法利用其形状、纹理等空间信息进行分类识别,只能借助于目标光谱信息进行分类识别。尤其是当目标在单个像元内的面积占比比较小且背景光谱辐射能力比较强时,目标光谱完全淹没在背景光谱之中,如何针对于这样的亚像元目标进行分类识别具有重要的研究意义。本文围绕这个问题展开研究,取得了如下的研究成果:（1）采用传统的方法,首先进行光谱解混以提取到亚像元目标的光谱曲线,再利用提取到的目标光谱进行分类识别。由于缺少目标的纯像元光谱信息,无法利用顶点成分分析等几何学的方法提取目标光谱曲线,只能进行盲元分离。本文在非负矩阵分解算法的基础上提出了约束非负矩阵分解算法,通过增加关于背景端元和目标丰度范围的约束条件,构造了新的目标函数。针对新的目标函数采用了投影梯度的算法进行优化求解。最后采用光谱角匹配算法对提取到的目标光谱进行了分类识别。通过对比实验分析,证明了本文提出的约束非负矩阵分解算法可以实现亚像元目标光谱提取的性能提升,其提取到的目标光谱更加接近于真实的光谱曲线。（2）采用深度学习的方法,通过输入亚像元目标的三维邻域小块可以自动的提取亚像元目标的光谱特征进行分类识别。针对于卷积神经网络在小样本训练集上识别性能差的弊端,本文提出了基于矩阵胶囊网络的亚像元目标识别算法。利用胶囊网络学习了目标的实例化参数,从而可以检测识别目标的不同变体,减少了网络对训练样本的依赖。利用胶囊层之间的动态路由协议学习了不同特征的组合关系,从而实现了虚假样本的剔除,增强了网络的识别性能。利用解码器网络重构了中心像元的光谱曲线并计算了重构误差,提高了胶囊网络对目标光谱特征的提取能力。此外,通过添加样本权重系数,解决了高光谱图像样本数量不均衡的问题。最后通过对比实验分析,证明了本文提出的矩阵胶囊网络可以实现最好的分类识别精度。