哈特曼波前探测器作为一种波前位相测量器件,凭借其优越的性能,被广泛的应用于自适应光学、主动光学、图像复原等领域。而1998年相关哈特曼波前探测器的提出及成功应用使太阳自适应光学系统走向实用化,并推动了对地面景物或空间扩展目标的波前探测工作的开展。而对基于扩展目标的畸变波前探测,扩展目标本身的对比度,内容分布位置等因素均会影响相关哈特曼波前探测器的探测精度。为了提高相关哈特曼波前探测器在基于扩展目标的波前探测工作中的性能,本文开展了如下研究,并取得一系列研究成果。相关哈特曼波前探测器通过计算子孔径图像与参考图像的互相关函数的峰值来估计子孔径图像的偏移,当扩展目标的对比度较低时,基于子孔径图像间灰度值乘积之和的互相关函数值将不再能精确地反映图像间的相似性,用其来估计子孔径图像偏移量误差较大。针对这个问题,提出了对参考子孔径图像进行伽马变换处理的子孔径偏移量探测算法。在仿真分析中,说明了针对目标特点应用合适伽马值的伽马变换相关算法,能大幅提升子孔径偏移量探测精度,对于RMS=6.86的太阳黑子类低对比度扩展目标,应用γ<1的伽马变换相关算法最高可以使子孔径偏移量探测误差降低88.12%;而最佳伽马值的选择会受到子孔径分辨率的影响,随着子孔径分辨率的降低,通过改变伽马值提升算法偏移量探测精度的效果越有限;伽马变换相关算法抗噪能力较弱,对于PSNR=43dB的中等信噪比子孔径图像,应用其会使得偏移量探测误差增加,而此时利用高信噪比图像作为参考图像可使算法的波前探测结果达到与高信噪比时相同的精度。在波前重构实验中,对特征部分最亮背景部分较暗的子孔径图像应用γ=1.5的伽马变换相关算法,使重构误差减小22.86%,实验验证了针对目标特点,选择合适伽马值的伽马变换相关算法能提升偏移量探测精度。利用FFT来实现子孔径图像间互相关的计算是目前普遍应用的方法,但其需要将有限图像周期延拓成无限图像,使得其相关值反映的实际上是参考图像和周期延拓的待测子孔径图像间的相似度,当扩展目标的特征接壤视场边缘时,偏移量探测误差会非常大。针对这个问题,提出了利用梯度图像进行互相关运算的子孔径偏移量探测算法,通过单个子孔径图像偏移量探测和畸变波前重构仿真,说明了应用梯度互相关算法可以使偏移量探测精度达到较高的水平,并能消除由边缘效应导致的波前重构误差项;在波前探测实验中,验证了梯度互相关算法能提升对特征接壤视场边缘的扩展目标的波前探测精度,平均可以使波前重构残差减少28.1%;通过液晶自适应光学校正成像实验,说明了梯度互相关算法的应用可以提升系统的成像分辨率。本研究得到的成果提升了相关哈特曼波前探测器的探测能力,使相关哈特曼波前探测器用于多种扩展目标的波前探测均有优良表现,拓宽了基于扩展的相关哈特曼波前探测器的应用范围。