图像的过完备稀疏表示作为一种新兴的图像模型,能够用尽可能简洁的方式表示图像,即大部分原子系数为零,只有很少的非零大系数,非零系数揭示了图像的内在结构与本质属性,并且冗余系统能够对噪声与误差更为稳健,从而有利于后续的图像处理。同时稀疏表示模型能够有效匹配哺乳动物本原视觉皮层中神经元的稀疏编码机制。稀疏表示理论已经引起了国内外广大学者的普遍关注,是当前的研究热点与难点。本文主要围绕图像稀疏表示理论中过完备字典设计、稀疏分解(逼近)算法以及过完备稀疏表示模型在图像处理反问题中的应用三个方面进行了系统和深入的研究,取得的主要研究成果及创新点包括：(1)根据图像的几何结构特性,从人类视觉系统感知特性出发,选取二维Gabor函数作为字典的生成函数,建立了匹配各层面图像结构的Gabor感知多成分字典,包含平滑、边缘与纹理三种结构类型的子成分字典,同时依据视觉皮层中神经元感受野的结构特性与图像几何结构特征来分配生成函数中自由参数的采样密度,大幅度缩减了原子个数,进而提出了一种高效的基于匹配追踪的图像稀疏分解算法。实验结果表明Gabor感知多成分字典具有对图像中平滑、边缘与纹理结构的自适应性,与Anisotropic refinement-Gauss混合字典相比能够以较少的原子实现对图像更为高效的稀疏逼近。(2)提出了一种图像结构自适应的子空间匹配追踪稀疏分解快速算法,首先对待分解图像进行结构自适应的四叉树区域剖分,并将剖分后的每一子块分类为平滑、边缘或纹理三种结构类型之一,进一步将每一子块只在与其结构类型一致的单一子成分字典中进行低维子空间的匹配追踪搜索,从而降低了图像维数与字典搜索复杂度,大幅度提高了稀疏分解效率。(3)基于图像在过完备字典下的稀疏表示,在Bayesian-MAP框架下,建立了针对泊松噪声的稀疏性正则化图像去噪与恢复凸变分模型,采用负log的泊松似然函数作为数据保真项,模型中非光滑的正则性约束图像表示系数的稀疏性,并附加非负性约束保证恢复图像的非负性。进一步基于分裂Bregman方法,提出了数值求解该模型的多步迭代快速算法,通过引入辅助变量与Bregman距离可将原问题转化为两个简单子问题的迭代求解,降低了计算复杂性。实验结果验证了本文模型与数值算法的有效性。(4)利用图像的稀疏性先验知识,建立了稀疏性正则化的图像恢复模型,目标泛函建模为实希尔伯特空间中两个下半连续凸泛函之和,并无光滑性要求。根据恢复模型中稀疏性正则项的不同,分为分解(Decompsition)与综合(Synthesis)两种形式。在Peaceman-Rachford算子分裂框架下对模型进行数值求解,对于综合形式下的恢复模型,问题变量为稀疏分解系数,稀疏性正则项通常具有可分离形式,直接采用原始(Primal) Peaceman-Rachford算法进行求解,迭代算法中的子问题通过共轭梯度法进行快速计算。而分解形式下的恢复模型,问题变量为图像自身,稀疏性正则项关于问题变量通常是非光滑且不可分离的,采用对偶(Dual)Peaceman-Rachford算法进行求解,对偶算法能够将原始问题解耦,解耦后的子问题通过FFT变换算法进行快速计算,简化了问题的求解,提高了运算效率。(5)建立了稀疏性正则化的多帧图像超分辨重建凸变分模型,模型中的正则项刻画了理想图像在字典下的稀疏性先验约束,保真项度量其在退化模型下与观测信号的一致性,分析了该模型解的存在性、唯一性以及最优性条件。进一步,分别采用前向后向算子分裂与线性化Bregman迭代算法进行快速求解,两种数值算法均能够将每一次迭代分解为仅对保真项的前向(显式)步与仅对正则项的后向(隐式)步,从而大幅度降低了计算复杂性,并分析比较了两种数值算法各自的优缺点。实验结果表明该模型能够有效保持重建图像中的边缘轮廓结构。(6)针对图像的卡通与纹理结构形态,分别建立符合类内强稀疏而类间强不相干的卡通和纹理分量子成分字典,形成了图像的多形态稀疏表示模型,进而提出了一种基于多形态稀疏性正则化的多帧图像超分辨重建凸变分模型,模型中的正则项刻画了理想图像在多成分字典下的稀疏性先验约束,保真项度量其在退化模型下与观测信号的一致性,采用交替迭代算法对该多变量优化问题进行数值求解,每一子问题采用前向后向算子分裂法进行快速求解。该模型能够同时保持重建图像中的边缘轮廓与纹理结构。