图像科学是一门集多学科于一体的交叉学科，与相关学科(特别是数学学科)的基础理论在该学科的成功应用密不可分。在图像处理中，无论是图像模型的建立，图像特征的描述，图像处理算子的设计，还是图像优化处理中的范函极小化，最终都归结为一个数学理论问题。特别是近年来，以变分偏微分方程(PDE)方法和稀疏表示为代表的数学工具活跃在图像处理的各个研究领域，并逐步为人们所接受。本文在对变分PDE及稀疏表示的理论进行深入研究的基础上，进一步讨论了它们在图像处理中的联合应用问题，得到了一些新的有意义的算法。 本文的研究成果主要有以下几个方面： 1.用直接的偏微分方程提出了一种新的半离散的非线性图像增强方法； 针对Perona-Malik(P-M)各向异性扩散方程在去噪的同时不能保留尖峰及边缘细节的缺点，借助弹簧体模型和稳定的逆扩散方程(SIDEs)不连续右端的基本思想，将P-M方程的右端修正为一种不连续的形式，提出了一种新的半离散的非线性图像增强方法。同时，对该扩散方法提出了两种数值求解方案：显式方案和可加算子分裂(AOS)的迭代格式。在显式方案中，通过一个特殊的矩阵分解能大大减少滤波过程的运算量；在AOS方案中，对时间步长没有限制，从而可以选择较大的时间步长，提高了运算效率。实验表明，该扩散进程既有很好的平滑效果，又能增强图像边缘，且运算时间较短。 2.结合变分PDE和小波(Wavelet)这两个数学工具，分别在图像盲复原、图像去噪和图像去模糊领域提出了三种新的算法； 结合变分PDE和小波这两个数学工具，提出了一种新的图像盲复原方法，即基于Besov空间的图像盲复原算法。该算法用一个B11,1，项代替BV，采用交替最小化的思想在小波域上求解，将全变差盲复原中求解复杂的偏微分方程转化为简单的小波软阈值问题，提高了算法的运算效率，减少了图像的阶梯现象。 结合Tadmor，Nezzar和Vese的多尺度图像分解的想法和Jiniun Xu等人的迭代方案，做了如下工作：提出了一种用于图像去噪的基于小波的多尺度迭代正则化和非线性逆尺度空间的方法，该方法可以参考Jinjun Xu等人的方法，得到软硬阈值结合的迭代方案；进一步提出了一种用于图像去模糊的基于小波的多尺度迭代正则化方法，该方法利用凸分析里面的一些重要结论，得到了一个由去模糊的梯度下降方程和小波软阈值组成的迭代方案。新方法的核心是利用权参数λ在迭代程序中的单调增加，加快了收敛速度，提高了图像的信噪比，有较好的视觉效果。此外，也给出了新方法的停止标准和一些好的性质，如单调性和收敛性等。实验表明了它的有效性。 3.围绕着变分图像分解模型出现的不足，提出了三种图像分解算法； 首先从对偶范数的角度提出了两种自适应的图像分解方法。它们在变分的框架下用自适应的正则化范数表示结构和纹理部分，这种自适应的特点不仅很好地保护了图像的特征而且减少了光滑区域的阶梯现象。模型的数值计算是通过最小化一类凸函数，交替迭代变量来实现的：其次从曲线波(Curvelet)变换和变分相结合的角度提出了一种基于Curvelet域的图像复原和分解算法。首先在负指数Hilbert-Sobolev空间推广了Daubechies-Teschke模型，接着对推广的模型在Curvelet域上进行处理。实验结果表明该模型不仅可以很好地分解图像、去除噪声，而且可以去模糊，使图像有较好的视觉效果。 4.结合变分PDE和稀疏表示的理论，分别在图像分解和图像修补领域提出了三种快速有效的算法。 针对Starck等人提出的形态学成分分析方法(MCA)的不足，提出了三种快速有效的算法。三种算法的基本思想都是用两个适当的字典：一个用来描述纹理部分一对偶树复小波变换，另一个用来描述结构部分一第二代曲线波变换。在三种算法中，对纹理部分的处理方法相同，而对于附加的TV罚项的处理方法略有不同： 第一种算法是在投影正则化方法的基础上，将TV罚项和第二代曲线波结合起来，得到了一种结合优化稀疏表示和投影正则化的图像分解方法： 第二种算法是将TV罚项用空间G1/2 1,1的范数代替，把结构部分的分解在曲线波域上进行处理，得到了一种结合优化稀疏表示和曲线波阈值的图像分解方法： 第三种算法是将TV罚项用空间G1/2 1,1的范数代替，把结构部分的修补在曲线波域上进行处理。对于结构部分的耦合项，采用替代函数的方法得到了很好的解决，最终得到了一种结合优化稀疏表示和迭代曲线波阈值的图像修补方法。实验表明这些算法能很好地将图像的纹理和结构分开且获得很好的图像修补效果，重要的一点是它们大大地节省了运算时间。