激光谐振腔的模式畸变是影响高功率激光器性能指标的重要因素之一。当模式发生畸变时，将引起模式耦合从而激发多模振荡，使激光束的发散角大大增加，光束质量变坏。在低功率情况下，由于腔镜失调和激活介质本身的缺陷以及镜面加工精度等不可避免的静态偏差，使得激光器的输出模式不能很好的接近理想情况；而在高功率情况下，热效应引起的动态畸变大大限制了激光器的模式稳定性和功率稳定性，同时也限制了激光输出功率的进一步提高，并且畸变会影响激光的输出强度分布。 本文的主要目的就是采用微变形镜对激光腔内的畸变进行补偿研究，探索微变形镜补偿腔内模式的理论方法与实验方案。从谐振腔光学理论出发，分析了激光系统中的热效应、热致波前畸变和热致模式畸变等方面；讨论了光束在热透镜介质中的传输问题，分别从几何光学和修正的波动方程两个观点给出了热透镜的焦距的计算方法和高斯光束在热透镜介质中的传输数值模拟结果。对于内含热透镜介质的谐振腔，采用特征向量法模拟了激光输出的本征模式，结果表明热透镜减小了谐振腔的损耗同时也减小了基模体积，将使得高阶模起振。通过对畸变谐振腔激光输出模式的研究分析，确定了微变形镜的配置方案，选用37 单元静电驱动连续表面变形镜。针对变形镜对Zernike 多项式的拟合能力、镜面面形与激光输出模式的关系进行了研究，具体讨论并确定了微变形反射镜的重要技术指标，推导出变换矩阵核，从而分析微变形镜校正激光输出模式的可行性。在实验研究方面，主要对变形镜的补偿性能进行了测试，并由模拟的变形镜面形与激光输出模式关系，成功实现了对实验用开环自适应光学系统的补偿能力测试。从实验上验证了微变形镜对内腔激光模式畸变的校正能力，通过手动调节变形镜各个电极的电压，使激光基本达到基模输出；并且可使同等条件下激光输出功率提高29％。同时，提出了闭环自适应激光模式畸变校正实验方案。