无线激光通信技术以其高速、便捷等独特的优势,在海洋领域有着广阔的应用前景。然而,激光束在海面传输过程中易受到大气湍流的影响,在通信接收端产生光束偏移、到达角起伏等现象,严重影响激光通信的质量。倾斜镜系统被用于无线激光通信中,用于实时校正光束偏移,使得激光束能实时稳定的与接收端对准。然而,由于受到倾斜镜执行器材料的滞回特性、执行器动态响应、执行器间相互耦合等因素的限制,传统的控制器难以对倾斜镜进行精确和高速的控制,降低了倾斜镜系统的校正效果。本文设计并搭建了一套闭环倾斜镜系统,并对倾斜镜的滞回特性,动态响应特性和耦合特性进行了测试。采用前馈控制的方法对倾斜镜滞回效应进行了补偿。根据倾斜镜结构推导了系统的物理模型,为后续数值建模提供有效参考。采用子空间辨识的方法,基于倾斜镜系统输入输出数据,建立开环倾斜镜系统的动态耦合数学模型,并通过测试实验评估了模型的准确性和建模方法的可行性。基于动态耦合模型进行了 H₂最优控制器设计及闭环实验,以提高闭环系统的性能,并与传统的基于静态模型的控制器进行对比,观察比较两种控制器的闭环控制效果。实验结果显示,经滞回补偿后倾斜镜的最大滞回量由11.29%降低到1.4%。倾斜镜系统动态耦合模型的VAF（Variance accounted for）值达到97%,相比之下,传统的静态模型VAF值为65%,模型的准确性大大提高。基于动态耦合模型的H₂控制器使系统的闭环带宽达到219Hz,而传统的基于静态模型的控制器带宽为100Hz左右,控制器性能显著提高。本文提出了将子空间辨识和H₂最优控制用于倾斜镜系统控制的思路,验证了滞回补偿、系统建模、控制器设计方法的可行性,研究成果可用于海洋环境无线激光通信中的闭环倾斜镜系统,提高系统对于光束偏移矫正的性能,进一步提高通信质量。