高光谱图像因其较高的光谱分辨率而得到广泛应用,但是由于光谱仪空间分辨率的限制使得混合光谱普遍存在,混合光谱的存在严重影响后续图像处理的精度,因此,有必要对光谱解混进行研究。目前,光谱解混主要以线性光谱混合模型为主,其结构简单,物理意义明确而得到广泛应用。然而,高光谱图像空间幅度大导致类内光谱变化较大,“同物异谱”现象普遍存在,传统的线性光谱混合模型采用单一固定端元光谱来刻画一种地物类别,并且解混时采用全部的端元光谱来解混所有的像元而不区分每个像元实际包含的端元个数,导致光谱解混结果不准确。因此,如何克服端元光谱变异与端元个数的变化是一项刻不容缓的问题。对于这个问题,本文进行了深入细致的研究,针对多端元光谱解混效率方面,改进了多端元光谱混合分析算法并提出了一种分层的多端元光谱解混算法;针对多端元解混实际应用的复杂情况提出了一种全约束正交匹配追踪多端元光谱解混算法。主要内容包括以下几个方面:1.经典多端元光谱混合分析(Multiple Endmember Spectral Mixture Analysis,MESMA)算法是目前用于解决端元光谱变异与端元个数变化问题应用最为广泛的算法,但存在着计算量大,端元预选繁琐以及过拟合等缺点。针对此问题,根据正交子空间投影(Orthogonal Subspace Projection,OSP)算法具有分离感兴趣信号与非感兴趣信号的特点,提出了一种改进算法(OSPMESMA),将像元投影到全部地物端元(每类地物选择一条类内光谱)构成的正交子空间上,根据投影值为零(理论值)分离不同的像元,然后根据重构误差变化量确定最优端元个数,避免过拟合。合成和真实高光谱数据实验结果表明,改进算法在提高计算效率的同时提高了解混精度。2.分层的目的是把复杂的问题解析成简单的步骤处理,以达到优化问题的目的。依据分解的思想,提出了一种分层的多端元高光谱解混算法(Hierarchical MESMA,H-MESMA),在多端元光谱混合模型的指导下,第一层采用所有的端元进行光谱解混,根据解混丰度值最大确定每个像元包含的总的地物类别的类内光谱,第二层在第一层的基础上根据光谱角距离再分层确定每个像元包含的最优端元个数。采用合成和真实高光谱数据进行实验,结果表明,提出的算法提高了计算效率并且能够有效克服端元光谱变异以及端元个数变化导致的光谱解混误。3.近年来,稀疏回归算法越来越多地应用到高光谱解混中,且取得了一定的成果。其中,正交匹配追踪算法(Orthogonal Matching Pursuit,OMP),属于贪婪寻优算法,结构相对简单且计算效率较高,但是没有考虑丰度“非负(Nonnegative)”和“和为一(Sum-to-one)”两个约束条件,导致光谱解混结果不甚理想。另外,很多光谱解混算法对实际复杂场景的处理有待提高。针对这些问题,提出了一种全约束的OMP(Fully Constraint OMP,FOMP)多端元高光谱解混算法。首先将“非负”和“和为一”两个约束条件加入到OMP算法中,然后根据提出的算法进行多端元光谱解混。采用合成和真实的高光谱数据进行实验,结果表明全约束OMP算法光谱解混结果较理想,且具有较强的抗噪性能。