激光通信技术是一种以激光为载波的通信方式,是航空航天及国防军工领域的关键通信技术,并正逐步融入民用领域。在大气环境中应用激光通信技术时,受大气湍流干扰,接收端空间光信号到单模光纤的耦合效率及稳定性显著下降,严重影响了通信质量。高效、稳定的光纤耦合效率是实现高速大气激光通信的前提和保障,空间光到单模光纤耦合效率问题已成为制约大气激光通信技术亟待解决的技术瓶颈。自适应光学技术是目前解决大气湍流对光信号干扰,提高耦合效率的最佳方法。由于自适应光学技术最初目的是解决天文观测中大气湍流对成像质量的影响问题,因此传统的自适应光学系统大多是针对成像需求进行设计的,专门针对激光通信系统需求的设计及研究相对较少。基于上述背景,为研究大气湍流对激光通信系统中单模光纤耦合效率的影响机理,探索抑制大气湍流对耦合效率的影响方法。本文针对激光通信链路,分析了大气湍流空间频率与时间频率特性对耦合效率的影响,以耦合效率为依据分析了激光通信系统对自适应光学系统校正能力的需求,给出了自适应光学系统校正残差裕度、模式数目及系统带宽的分析与设计方法,并通过实验验证了自适应光学系统对耦合效率及通信质量的优化作用。本文主要进行了以下工作:1.基于经典理论分析了大气湍流的成因与折射率起伏效应,对比了几种经典的大气湍流模型,以HV模型为基础,分析了典型激光通信波段下大气湍流的特点。2.推导了可快速计算像差空间模式对耦合效率影响的数学模型,分析了光学系统参数对耦合效率的影响,以Noll泽尼克序列为基础,分类讨论了不同类型的像差模式对耦合效率的影响,针对特定耦合效率阈值分析了自适应光学系统倾斜和高阶校正残差的裕度范围。通过实验验证了像差模式对耦合效率影响的分析结果。3.分析了波前整体倾斜像差对耦合效率的影响,针对激光通信系统需求对整体倾斜校正系统的器件特性及校正带宽进行了研究。建立实验环境,验证了不同泰勒频率的模拟湍流扰动下,整体倾斜校正系统的校正能力。实验结果显示,对于系统静态噪声闭环后G倾斜STD值小于0.3μrad,在动态模拟湍流,最大抑制比超过-30d B。4.分析了高阶像差校正系统关键参数及系统带宽对耦合效率的影响,给出了校正系统规模、校正像差数目及系统带宽与耦合效率的关系,建立了激光通信自适应光学实验系统,在不同强度的模拟湍流下验证了校正系统对耦合效率的优化作用。在格林伍德频率为120Hz的模拟湍流扰动下,实现了平均耦合效率40.83%,光功率抖动0.48d Bm。在模拟湍流信道中进行了激光通信实验,实现了统计时间内的100%帧同步,无交织编码情况下平均误码率达到4.6*10E-5。本文的上述研究内容,能够为以单模光纤耦合效率为评价依据的激光通信自适应光学系统的研究与设计工作提供关键理论依据与技术支撑,为深入研究激光通信自适应光学技术提供重要参考。