随着水下勘探、环境监测、水下潜航器通信以及水下传感器信息回传等应用得到不断发展,人们对水下大容量通信的要求也在不断提高。无线光通信技术具有信道容量高、可操作性强、延迟低等优势,正逐渐成为人类实现海洋资源探测开发的重要手段。然而,现有无线光通信技术所能达到的信道容量仍难以满足人类需求。轨道角动量(Orbital Angular Momentum,OAM)可以作为复用技术的一个新维度,为更大容量水下无线通信提供了可能,但其容易受到海洋湍流的干扰。如何将传统无线通信技术与轨道角动量技术结合,缓解海洋湍流的干扰,实现高可靠性的大容量通信系统,是一个有待人们去解决的问题。本论文首先研究了海洋湍流对OAM光束传输的影响和传统无线通信中的分集技术,然后重点研究了 OAM与分集技术的结合,提出了基于OAM的模式分集方案、基于空间分集的OAM复用方案以及基于空时编码的OAM复用方案。最后,利用MATLAB构建了通信系统模型并对方案效果进行了分析。本文主要工作如下:(1)仿真分析了 OAM光束特性以及其在海洋湍流信道中的传输,为后文研究打下基础。利用OAM光束的特性提出水下OAM模式分集通信方案。在理论分析的基础上构建了系统模型,然后进行了数值仿真,验证了方案有效性。(2)分析了海洋湍流对OAM复用通信系统的影响。为缓解海洋湍流水下OAM复用通信系统造成的干扰,将空间分集技术应用到OAM复用通信系统中。通过理论分析,建立了系统模型并进行了数值仿真。通过误码率表现分析了空间分集技术的使用对OAM复用通信系统通信效果的提升。(3)研究了空时编码技术,然后将其应用到OAM复用通信中,提出了基于空时编码的OAM复用通信系统方案。然后进行了理论分析和模型建立,并进行了数值仿真。通过数值仿真验证了空时编码技术可有效提高OAM复用通信系统的可靠性。