随着时代的推进,互联网产业得到了飞速发展,流量的爆发式增长对通信领域提出了更高的要求。在空间光通信领域,传统的调制及复用技术难以达到人们对高信道容量和高频谱效率的通信系统的需求。而具有轨道角动量的涡旋光束为信道复用提供了全新的维度,为更高信道容量和频谱效率的通信系统的实现提供了可能。然而,应用于空间光通信中的光束不可避免地要受到大气湍流的扰动,基于轨道角动量复用的涡旋光束也不例外,其中最具代表性的影响便是涡旋光束的模式串扰。本文针对涡旋光束的大气传输特性展开了研究,通过对涡旋光束在大气湍流中传输的理论模型的研究,得出了用于表征涡旋光束与大气湍流相互作用而产生模式串扰的解析表达式。通过研究不同涡旋光束在不同强度的大气湍流条件下产生的模式串扰,研究了涡旋光束中各模式的含量与湍流强度、传输距离、光束束腰半径等参数的定量关系。建立了涡旋光束轨道角动量散射模型,通过定义散射方差和散射宽度分析了光束在传输过程中的模式散射规律并提出了最佳光束参数的选择方法,为减少基于轨道角动量复用的通信系统的模式串扰提供了理论依据。主要研究工作包括:1.通过研究涡旋光束在大气湍流中传输的理论模型,确定了使用拓扑荷数探测概率来表征涡旋光束的传输。从拉盖尔-高斯涡旋光束表达式出发,基于瑞利衍射理论,通过研究涡旋光束在大气湍流中传输时的旋转相干函数的变化规律,总结了涡旋光束在大气湍流中传输时各轨道角动量之间的串扰情况,使用了拓扑荷数探测概率描述串扰规律,并推导了拓扑荷数探测概率的解析表达式。2.基于拓扑荷数探测概率的解析表达式研究了涡旋光束通过湍流后的各轨道角动量模式的分布情况。研究了大气湍流谱和涡旋光束轨道角动量模式的相关性,并通过定义的相干性参数来表征了这种关系。进一步研究了大气湍流及各光束参数对本征模式纯度变化及不同模式之间的串扰情况。3.使用大气随机相位屏理论联合MATLAB建立了涡旋光束在大气湍流中传输的数值仿真平台,研究了不同强度的大气湍流对在其中传输的涡旋光束的光强及相位的影响。利用旋转相干函数理论,通过接收到的光强及相位计算出了光束中不同轨道角动量模式的分布情况,研究了涡旋光束在不同传输条件下各模式之间的串扰情况。4.搭建了生成涡旋光束实验平台,分别使用液晶空间光调制器和螺旋相位板生成了涡旋光束并进行了传输实验。通过结合大气湍流模拟装置,以及涡旋光束波前探测装置,调节涡旋光束传输时的相关参数(传输距离、束腰大小、生成方式、湍流强度等),采集了涡旋光束波前相位面的分布情况。从而通过计算得到其中各轨道角动量模式的分布情况,进一步记录了轨道角动量在传输过程中的退化情况。5.将理论推导结果、仿真结果和实验数据进行了系统的对比分析。发现理论解析式能够很好地描述涡旋光束各轨道角动量模式在大气湍流中传输时的退化及串扰情况。而基于理论表达式提出的散射宽度能够直观地表征大气湍流对涡旋光束的串扰,为基于轨道角动量复用的空间光通信系统选择合适的涡旋光束模式间隔和最佳光束参数提供了理论指导。