光学成像探测系统是实现对目标探测、识别、侦探以及战场态势感知的核心系统。但是,受大口径光学镜头的加工工艺及探测器制作工艺的限制,传统光学成像探测系统的分辨率提升比较困难。为了解决这个问题,在光学成像系统中引入了编码孔径技术,编码孔径成像技术通过在传统成像系统中加入特定的编码模板,使物空间的大量高频信息进入探测器,之后采用合适的图像重建算法对编码后的图像进行重建,可恢复出目标的高频信息,从而提升系统的成像分辨率。但是,现有的图像重建算法对PSF精度要求较高,且对图像细节恢复具有局限性,本文研究编码孔径成像图像复原算法,首先估计出系统的点扩散函数,然后用改进梯度平滑边界算法以及TVAL3算法对模糊图像复原,最后搭建实验验证算法在图像重构中的优越性。首先,研究编码孔径成像技术的基本原理和模型,研究最优编码模板的选取方法、点扩散函数的估计方法及常用的图像质量评价方法。其次,利用估计的点扩散函数和图像复原算法进行图像重建,针对维纳滤波复原算法在图像重建时存在的振铃效应,提出了一种改进的梯度平滑边界算法,该算法不仅可减小噪声且能有效抑制振铃效应,仿真结果表明,相比梯度平滑边界算法,该算法对振铃效应的抑制效果更好。再次,将全变差复原算法应用到编码孔径成像系统的图像复原中,并研究了常用的FTVd算法、TVAL3算法,这些算法对PSF的估算精度要求较低,在有效抑制噪声的同时还能保留更多的图像边缘与细节信息。仿真结果表明,全变差算法复原的图像清晰,分辨率高。最后,搭建实验平台,采用KL散度法以及调制传递函数法对编码孔径成像系统中常用的编码模板进行筛选,并通过针孔照相法估计出系统在不同位置的点扩散函数,并选用距对焦位置最近处的点扩散函数来验证编码孔径成像系统的有效性;验证所提算法和本文所介绍的各种全变分算法的有效性。实验结果表明,改进梯度平滑边界算法虽然能有效抑制振铃效应但不能较好的恢复图像细节,在噪声较小时,FTVd算法的复原效果较好,在噪声较大时,TVAL3算法的复原效果最佳。