高光谱遥感图像的混合像元分解（解混）问题是高光谱遥感图像分析与应用的重要问题。本文围绕基于非负矩阵分解（Nonnegative Matrix Factorization，NMF）的高光谱图像解混算法进行研究，充分利用当前信号处理与机器学习领域的稀疏性表达这一有效工具，重点研究了高光谱图像线性混合模型下基于L1/2稀疏性约束的自适应NMF解混算法、结合超图正则化与稀疏性正则化的NMF解混模型和优化方法、基于图形处理器(GraphicsProcessing Unit，GPU)的并行稀疏性NMF解混算法、以及非线性光谱混合模型下基于核方法的稀疏性NMF解混模型与算法。同时，本文通过采用线性与非线性光谱混合模型、基于超图学习与核方法的稀疏性解混模型以及并行计算技术等多种角度，探索具有丰度稀疏性约束的NMF解混方法，从而有效提高了高光谱遥感图像解混算法的解混精度和计算效率。本论文的主要工作和创新点如下：　　1.提出一种自适应的L1/2稀疏性约束NMF半阈值解混算法。已有研究表明基于L1/2稀疏性约束的NMF解混方法具有潜在的优越性。但是L1/2正则化会导致复杂的非凸优化问题，使得基于传统乘法更新规则的优化算法难于获得期望的解混结果。自适应半阈值算法是为解决具有L1/2正则化的压缩感知问题而提出的一种快速有效的方法。为了更加有效地解决具有L1/2正则化的NMF问题，本研究利用改进的满足非负性约束的半阈值过程构造了丰度矩阵的更新规则，并将该更新规则与端元矩阵的乘法更新规则相结合，给出了能有效解决L1/2稀疏性约束NMF的半阈值算法。除此之外，该算法的自适应参数策略可以基于数据的稀疏性信息自适应地调节正则化参数的取值。这不仅可以改善算法的性能而且提高了算法的易用性。实验表明，与代表性的解混方法相比，所提出的自适应半阈值解混算法可以获得更稀疏和更准确的解混结果。　　2.提出一种新的基于超图正则化的稀疏性NMF解混方法。该方法旨在充分利用高光谱图像的谱-空间联合信息和丰度稀疏性先验提高NMF的解混性能。为了利用高光谱图像内在的谱-空间联合结构，即在一个较小的空间区域中，光谱信息相似的像素以很高的概率具有相似的丰度，该方法充分利用超图学习可以有效表达数据的高阶关系的优势，通过超图学习有效地捕获空间相邻像素之间的光谱相似性关系。通过在NMF解混模型中同时使用超图正则化和基于L1/2范数的丰度稀疏性正则化，使得算法估计的丰度分布与数据的实际谱-空间联合结构保持一致，从而保证了该方法具有较高的解混准确性以及抗噪声干扰能力。实验表明，该方法在基于仿真数据和实际高光谱图像的解混实验中能够得到较高的解混精度，并且具有较好的鲁棒性和抗噪声性能。　　3.提出一种基于核方法的L1/2稀疏性约束的NMF解混方法。在机器学习技术中，核函数是一种基于线性算法推导非线性算法的有效工具。本研究所提出的方法通过核函数将高光谱数据隐含地映射到单散射反照率（Single Scattering Albedo，SSA）特征空间，使得端元在光谱空间的非线性混合转变为SSA在特征空间的线性混合。然后，利用基于核的稀疏性NMF在特征空间实现端元与丰度的同时解混。而且，通过在NMF模型中加入L1/2正则化，该方法可以有效利用数据在特征空间的丰度稀疏性，从而提高了其解混精度。基于具有矿物紧致混合的实际高光谱图像的实验表明，所提出的方法是一种有效的非线性解混技术。　　4.提出一种基于GPU的并行NMF半阈值解混算法。该方法针对稀疏性约束的NMF解混模型可以按照像素进行分解的特点，利用GPU上运行的大量并行线程完成矩阵分解任务，并基于统一计算设备架构(Compute Unified Device Architecture，CUDA)技术给出了稀疏性约束的NMF半阈值解混算法的并行实现。该方法可以充分发挥GPU的单指令多数据并行计算能力，使得串行NMF解混算法因数据的高维性和算法的循环次数多所带来的繁重计算负担得以有效解决。另外，该方法在实施中充分利用了指令级并行性、基于CUDA流技术的任务级并行性以及CUDA库函数的并行计算能力，从而大幅提高了算法的运行速度。实验表明，该方法不仅具有与串行算法相当的解混精度，而且对于不同规模的高光谱数据均可获得较高平均加速比，其算法运行时间可以满足具有一定时间约束性的解混应用需求。