自适应光学系统已逐渐发展为天文光学望远镜中必不可少的一部分。由于其自身是一类时间延迟的伺服系统，这类延迟极大地降低了系统的性能，尤其是大口径天文望远镜高分辨率成像的要求。这里传统的比例积分控制方法并不是最小方差意义下的最优控制，因此迫切要求探索精度更高的控制方法，同时要求对所探测的大气参数要有更加详细的了解和更简单实用的探测方法，同时自适应光学系统中非共路像差的存在也严重限制了系统的性能。另外对于干涉形式的大口径望远镜，在单口径望远镜自适应光学系统中忽略掉的大气本身的平移像差也会对其成像质量造成严重的影响。本文针对以上的问题开展了以下的研究内容。主要内容和获得成果如下。1.本文介绍了极大望远镜（Extremely Large Telescope-ELT）第一个成像系统对应的自适应光学系统，并且介绍了其中对性能严重限制的望远镜自身摆动像差。作为研究背景，介绍了实验室针对这项问题展开的仿真模拟系统。这套系统也是本文进行相关实验工作的基础。2.本文回顾了测量大气相干长度的两种方法：差分图像运动方法和基于闪烁探测划分的方法。并基于实验室哈特曼传感器的特性选择了第一种方法测量了实验室一个未知参数的相位屏。与远场的成像结果得到的参数对比来看，这种方法获得了令人满意的测量结果。3.本文针对干涉望远镜中要考虑的大气平移像差进行了深入地研究。建立了数值仿真模型进行了在不同湍流条件下的大气平移像差的复原。仿真表明大气的平移像差在干涉形式望远镜中不可忽略。同时此方法还可以复原出大气的风速。4.本文对通过解耦方式加速的无波前探测控制优化技术-随机并行梯度下降（SPGD）技术进行了理论上的研究。详细分析了其实际应用中可能存在的问题，并进行了相应的静态像差和动态像差校正的数值仿真研究。还提出了相应的针对哈特曼传感器的SPGD控制技术。接下来还对其进行了相应的实验研究。研究表明虽然此模型增加了系统复杂度，但是此加速的SPGD技术可以比基础的SPGD技术提高2到3倍的进化速度,从而提升了系统带宽。5.提出了解决非共路像差的SPGD技术，此技术可以非常高精度的标定系统非共路像差，即可以在不需要改动原自适应光学系统的前提下，进行相应的标定工作，有很强的实用性。并且用此方法实验上高精度的标定了实验室的AO系统。6.针对现代控制理论中的线性二次高斯控制（LQG）控制技术应用在自适应光学领域进行了详细的研究，并对其进行了数值仿真验证。同时还针对此技术可能存在的发散问题提出了相应的解决方案，并利用以上的实验系统进行了实验验证。结果表明，利用提出的方法，此控制技术的发散可以很好地被抑制，同时与比例积分控制算法进行了对比研究。这种方法相对于比例积分控制方法可以减小残余波前像差的RMS值10%左右，同时提升了系统控制带宽。这表明此技术有很大的实际应用前景。本文的探索研究将对自适应光学的控制方法的发展有很大的帮助作用。将促进科研人员进一步的把先进的控制方法不断应用到自适应光学领域，从而推动自适应光学技术的发展。