高光谱遥感技术是近二三十年发展起来一种前沿遥感手段，对高光谱遥感图像数据的各类处理技术也是一个热点领域。“图谱合一”是高光谱图像的一个最大的优点，高光谱遥感可在连续的上百个波段上进行成像。但对于探测传感器来说，获取更高的光谱分辨率需要将进入传感器的光谱能量按波段分成更多的小份分别成像，而要获取更精细的地物空间分辨率，成像时则需要更多光谱能量的集中。这就导致对高光谱遥感来说要获得更高的图像空间分辨率和更高的光谱分辨率必然存在一个矛盾的取舍。在目前传感器技术和制造工艺水平仍有限的条件下，高光谱具有的高光谱分辨率，带来了较低空间分辨率的缺点。低空间分辨率导致的一个直接结果便是在图像的单个像元中，往往由多种物质混合共同产生该像元的光谱响应，即存在混合像元的问题。混合像元的存在为高光谱图像的解译如目标检测等实际应用带来了阻碍，因此研究如何解决混合像元问题具有重要实用意义。本文首先对高光谱遥感成像的特点进行了研究，从理论上弄清混合像元产生的物理过程是怎样的，并引入介绍了凸集理论及其与线性光谱混合模型的内在联系。通过对混合像元产生机理的研究，我们可以看到混合像元的形成过程受到多种因素的影响，但主要影响还是地物混合模式和程度。本文仅对常用的线性混合模型下的问题加以研究，并且探索在线性混合模型与凸集这一数学概念上的理论联系。然后，本文研究了高光谱图像混合像元解混技术的流程，并对高光谱图像解混依据Craig最小体积准则进行数学最优化建模，并对该最优化问题进行进一步分析，将该最优化问题转化为凸优化问题，从而将凸集理论工具引入解决了混合像元分解问题。在完成理论算法的研究后，本文给出了该算法对模拟数据和真实高光谱图像数据的实验结果，并与传统的NFINDR-FCLS(Fully Constrained LeastSquares)算法实验结果进行了比较，验证了该算法的进步性。最后，本文进一步研究了将解混结果应用于高光谱图像目标检测的技术。解混结果仅是一种数据描述，对大多数基于像元级的目标检测算法难以直接加以利用。因此本文研究了子像素制图技术，将解混出的物质在图像上进行了超分辨填图。通过实验表明本文研究的解混技术通过子像素制图后，提高了目标检测的效果。