无论在实验室观测还是在野外测量端元地物的光谱曲线，都发现同一种地物的光谱不是固定不变的，在不同地点对同一种地物测量得到的光谱曲线表现出一定的波动性，这种现象也出现在对同一地点、同一种地物的多次测量中，我们称这种现象为由于地物复杂多样性和时空变化而引起的端元光谱变异。本文探讨了端元变异性的存在对高光谱混合像元分解精度的影响，总结了目前该问题的研究现状，其中正态组分模型（normal compositional model，NCM）是一个能对端元变异性进行有效建模的混合像元分解模型，该模型使用了更多变量来对混合像元问题进行详细和精确的描述，但多个变量的同时估计是其中的难点问题，阻碍了其得到广泛应用。为解决这个问题，本文根据不同情况提出三种不同算法来估计NCM模型的参数，从而达到在混合像元分解过程中减小端元变异性对解混精度的影响的目的。本论文的主要研究成果是以下三个算法:　　1)基于粒子群优化的期望最大化算法(particle swarmoptimization-expectation maximization，PSO-EM)从NCM模型中可以推导出关于未知参数（丰度、端元分布）的似然函数，PSO-EM算法采用了期望最大化方法(expectation maximization，EM)的一个变异版本（“赢者通吃”版本）避免了似然函数中复杂的积分运算，该变异EM方法通过迭代不断更新未知参数的估计值。在EM框架中的E步中采用了粒子群方法(particle swarm optimization，PSO)寻找使得似然函数最大化的丰度粒子。PSO-EM的创新点在于采用变异EM估计丰度变量，避免了关于丰度的复杂积分运算。　　2)正态端元光谱解混算法(normal endmember spectral unmixing，NESU)它基于NCM模型，涉及的参数有端元分布和丰度。它将端元视为一个呈正态分布的随机变量，NESU算法从端元光谱束统计得到该正态分布的参数，即端元均值和方差。NCM的另一未知参数（即丰度）则由贝叶斯推理得到，该贝叶斯框架使用了基于区域的丰度先验分布，即假设同一片均质区域里的像元丰度的统计属性应该也是相似的。最后，根据关于丰度参数的后验概率，借助粒子群算法估计使得该后验概率最大化的丰度估计值。NESU的创新点在于直接从端元光谱束中统计端元分布（即端元均值和方差），这样减少了需要估计的未知变量。该算法要求图像存在纯像元。　　3)基于区域的随机期望最大化算法(region-based stochastic expectationmaximization, R-SEM)它通过随机期望最大化(stochastic expectationmaximization，SEM)框架迭代估计丰度和端元分布，若在迭代过程中通过模型拟合误差学习端元的变异程度，可能有过拟合的问题。为了避免这个问题， R-SEM提出一种基于均质区域的端元变异程度估计方法，它充分利用图像的空间信息，假设均质区域的光谱差异主要来自于端元光谱变异，进而从中推导出端元方差。这种做法相当于在目标函数中添加一个关于端元方差的正则项（约束条件），可以有效防止端元方差估计值过大或过小。该算法要求图像存在均质区域，可适用于无纯像元图像。R-SEM的创新点是提出一种基于均质区域像元信息的端元变异程度估计方法。　　本文提出了三种高光谱混合像元分解算法，试图讨论端元光谱变异性对混合像元分解精度的影响，端元方差是正态组分模型(NCM)区别于线性混合模型(LMM)的关键参数，研究工作的关键都是寻找端元光谱变异程度的估计方法。PSO-EM算法根据全局图像的模型拟合误差推导端元变异，即它将不能被端元线性混合解释的那一部分光谱差异解释为端元变异;NESU算法从端元光谱束中统计端元方差;R-SEM算法根据均质区域的像元光谱方差推导端元方差，即它将均质区域的光谱差异解释为由端元光谱变异引起的，而不是端元混合引起的。实验结果证明这三种算法可以实现对端元光谱变异性的有效建模，均能提高高光谱混合像元分解的精度。