随着移动通信和互联网技术搭上了发展的快艇,人们对于数据传输的速度要求也越来越高。在通信发展的过程中,光通信的高速率传输能融入到发展的大流中,目前已经成为了重要传输网络的支撑体,在市场上也是领头羊的角色。光通信分为有线和无线。前者也被我们叫做光纤通信,而后者,因为是无线形式,即被称为自由空间光通信（Free Space Optical Communications,FSO）。两者相比,后者拥有很多前者不具备的一些优点,如带宽较宽、抗干扰性强等,现已被广泛应用于多用户局域网延伸、应急通信以及星际激光通信等诸多领域。人类社会在享受信息技术带来的极大便利的同时,对FSO技术的要求也日益提高。现下在FSO所包含的领域范围内,出现了一个新的复用维度—轨道角动量（Orbital Angular Momentum,OAM）。它的出现可以使得信道容量增大以及频谱效率进一步提升的期望得以实现,因此受到国内外学者的广泛关注。FSO信道是一种复杂时变信道,其中的悬浮气溶胶粒子会改变携带OAM的涡旋光束的传播特性,破坏波前螺旋结构,最终影响通信的稳定性和可靠性。为此国内外学者针对涡旋光束经FSO信道传输后的通信性能作了广泛研究。在综述和分析现有研究进展的基础上,发现多数关于基于OAM的FSO系统性能的分析都是在短距离的实验条件下进行,理论研究成果很少。然而实验条件下可实现的通信距离极其有限,其结论是在特定的实验环境下得出,无法做一般性规律推演。因此,亟需从理论角度出发,建立一套完备的体系架构用以分析基于OAM的FSO系统性能。在此基础上我们提出采用相干光束合成（Coherent Beam Combining,CBC）技术提高OAM系统链路特性和应用范围的方案,为湍流环境下OAM系统设计及性能评估提供理论基础和技术支撑。据此,本文从两个方面展开研究。首先,针对大气湍流信道设计基于OAM的相干检测系统用以理论分析传统单涡旋光束的误码性能。具体来说,推导多进制相移键控（M-ary Phase-Shift Keying,MPSK）条件下的符号错误概率（Symbol Error Probabilities,SEP）的解析表达式,并评估不同光束、信道以及接收机参数对SEP的影响。其次,CBC技术可以产生高功率涡旋光束。利用CBC技术,在不同参数条件下,深入研究生成的高功率涡旋光束的传播特性,最后探索其提高OAM系统链路特性并进一步提升光通信系统性能的可行性。