波前编码光数混合系统是一种光学编码和数字解码的两步成像系统,通过在光学系统的光瞳面上引入一块相位板,在像面上得到一幅对景深不敏感的中间模糊像,再利用数字图像复原算法进行图像复原,最终得到清晰的输出像。通过这种技术可以获得超大的景深,提高系统的成像质量。目前制约该技术的主要是解码算法存在着边界效应,图像的细节丢失严重,图像不自然等缺点。本文首先从空间域成像卷积过程入手,讨论了光学系统成像的物理原理,在数学上将其归结为一个空间域线性方程组求解的问题,进一步讨论了边界处理后的线性方程组中线性模糊矩阵的构建方法,利用直积近似的原理将线性方程组的求解问题归结为矩阵方程的求解问题,完成了成像卷积的空间域数学模型的搭建。在此基础上,分析了克雷洛夫子空间在线性方程组求解方面的优势,开发出了两大类图像去卷积空间域迭代算法,即基于广义极小残差法和无转置准极小残差法的图像去卷积复原算法,两类算法都有着优秀的去卷积效果,第一类算法构建了完全正交基,能够给出更加精确的近似解,第二类算法计算存储量小,计算时间少,是第一类算法有益的补充。针对第一类算法,成功的将其与Tikhonov规整化算法及反镜边界条件结合,研究出了一套有效的去卷积抑噪图像空间域迭代复原算法,利用三通道处理原理,给出了最终的彩色图像空间域迭代复原算法,实验结果证明该算法能够给出细腻、自然的复原图像。其次,首次提出了空间域边界处理和频域快速图像复原算法,利用空间域边界条件的原理,首先将待复原图像进行边界扩展处理,然后再进行频域滤波复原,分析了图像进行边界扩展处理后的频谱特性及其对复原图像边界的影响,实验证明该算法在镜像和反镜像边界处理下,不仅计算速度快,而且有着优秀的去卷积抑噪效果,同时还能有效的减少复原图像的边界振铃效应。第三,在现有国产普通显微物镜的基础上设计了10X、40X波前编码显微成像物镜,利用我们给出的空间域迭代算法和空域边界处理频域快速复原算法分别进行了图像解码,都取得了很好的效果。尽管由于国产普通显微物镜的光学性能比较差,导致波前编码系统的点扩散函数和调制传递函数有一定的偏差,但是借助我们的算法仍然给出令人满意的结果。最后,首次提出了利用波前编码系统进行水下成像的应用,利用波前编码系统的大像差特性对水体本身和水下散射进行调制,再利用我们给出的空间域迭代算法进行复原,可以消除水体本身和水下散射对成像的影响。从实验中得到的复原图像对比度明显增强,细节更加丰富,证明了该思路的可行性。