混合像元的普遍存在成为影响高光谱图像精确识别的关键因素。由于传感器瞬间视场角大小、成像平台高度、成像视野内地物种类及分布空间范围大小的不同,使得不同高光谱图像中像元的混合特点也不同。根据高光谱图像数据的混合特点,光谱解混研究含盖了线性解混、非线性解混、单端元解混、多端元解混等不同模型。但大多数解混模型对数据混合特点适应性有限,不具备较好的通用性。随着遥感应用领域的不断扩展,由于成像平台和场景的不同,成像所得图像数据的混合特点十分复杂多样。这一事实为现有光谱解混方法带来巨大的挑战。非负矩阵分解(Nonnegative Matrix Factorization,NMF)用于解混时,可以得到端元和丰度的同步估计。由于其模型灵活的可扩展性,NMF解混方法成为近几年研究的热点。NMF模型对数据特点的适应性取决于生成端元与数据间的表达关系。尤其当数据中同时存在很多纯像元和混合像元,而且类内光谱多样性因素很显著时,模型的解译性变得十分重要。但很少NMF解混模型给出生成端元与数据样本间的直观信息,也很少有模型针对混合数据特点研究解混模型的适应性/通用性。本文重点基于非线性核映射及线性稀疏表示理论,研究能适应混合数据特点、具备一定通用性的可调节NMF解混技术。主要研究内容如下:(1)为了研究混合数据特点与生成端元类解混方法关联性,引入一种显性给出生成特征组分指示集的NMF模型——原型分析(Archetypal Analysis,AA)用于光谱解混。重点针对无纯像元的高度混合数据,利用可调节的松弛AA模型处理来该类特点混合数据的光谱解混问题。实验结果表明通过设置松弛因子,松弛AA模型比其他经典解混方法能更有效地估计高度混合光谱数据的端元及丰度。(2)为了间接处理存在非线性混合效应及光谱变异性的混合数据,提出了基于核技巧实现的可调节核原型分析(Kernel Archetypal Analysis,KAA)相关解混模型。首先,证明了KAA同时具有凸集提取和聚类的功能。其次,基于PCA降维及数据混合程度的粗略信息,提出了KAA中高斯核半径依赖于数据的设置方式。此外,基于标准骨架算法(Standard Nystr?m Method)和随机非线性特征映射,分别提出骨架快速KAA(Nystr?m Fast KAA,NFKAA)及随机非线性AA(Random Nonlinear AA,RNAA)两种快速KAA解混算法。实验表明,对具有非线性混合效应及光谱变异性的数据解混时,非线性KAA可取得优于其他传统方法的解混性能。按照给出的核参数设置方法,可以有效调节KAA模型对具有光谱变异性混合数据的适应性。实验同时证明,NFKAA、RNAA可有效地提高KAA的运行效率。对于存在大片同质区域的图像数据,这两种快速方法解混效果与KAA十分接近,且其所得丰度的稀疏性对于高光谱图像分类具有潜在的利用价值。另外,在适中的采样数目下,NFKAA解混精度优于RNAA,而RNAA解混效率高于或接近NFKAA。(3)为了利用丰度语义特征解混并融入空间信息,提出了多层KAA(Multilayer KAA,MLKAA)解混框架。多层解混结构将原始输入特征变换为丰度语义特征,进而实现基于丰度语义特征的解混优化。同时,将双边滤波函数作为中间丰度特征的非线性激活函数,可融入邻域空间信息实现丰度特征的修正。实验结果表明,MLKAA中的层数设置为两层最为合理。两层KAA解混对比单层KAA解混得到更接近真实地物分布的丰度图。在有效保留混合边界信息的同时,两层KAA所得同质区域内丰度更平滑。(4)为了直接处理不同混合程度的数据,提出了基于稀疏表示实现的可调节稀疏原型分析(Sparse Archetypal Analysis,SAA)解混模型。在原始AA模型中额外加入对生成端元组分和混合像元组成的稀疏约束,将稀疏约束和原始凸约束项按序优化可实现求解变量的层次稀疏约束。进而通过调节模型的稀疏因子,可调节生成端元对光谱变异信息概括的多少。此外,从生成端元提取其组分作为多端元,可基于多端元稀疏解混方式处理解混中的光谱变异性问题。实验结果表明,相比KAA,SAA可调节适应更宽泛混合程度的数据解混问题。对于混合相对严重的数据,SAA优于KAA且获得和AA相比拟的解混结果。对于存在很多相对纯像元的低空遥感数据,SAA获得和KAA相接近的解混性能,而且具有双层多端元稀疏解混的效果。在处理室内高空间分辨成像所得高光谱图像数据时,KAA在数据特点更为复杂的识别任务中取得更好精度,而SAA在数据特点更简单的识别任务中取得更好性能。