大气激光通信具有保密性好、性价比高等优点，被广泛的应用在军事等各个领域。但是，光信号在大气信道中传输时，易受到大气湍流的影响。特别是在强湍流的情况下，光信号受到严重干扰甚至脱靶，从而引起较大的误码率和短时间通信中断，严重地影响激光通信的稳定性和可靠性。低密度奇偶检验码（Low Density Parity Check，LDPC）具有接近香农限的纠错性能，可以用于光通信中抵御大气湍流的影响，但在中强湍流的情况下，其抵御能力较弱。多输入多输出（multiple input multiple output,MIMO）技术可以在不增加频谱资源和发射功率的情况下，成倍提高系统的信道容量，有效克服大气强弱湍流所产生的闪烁效应，提高通信系统的性能。垂直分层空时编码(Vertical Bell layered Space Time,VBLAST)是实现 MIMO技术的一种空时码，其频带利用率高，且结构简单，但是在译码过程中会产生错误传播，导致整个通信系统的误码率较高。为了在提高光通信频带利用率的同时，改善系统的误码性能，本文主要展开以下两方面的研究：　　（1）结合 LDPC码和VBLAST各自的优势，以LDPC码作为外码，VBLAST码作为内码，构建了一种适合于光通信的级联空时编码方案。并对其传统的简单译码算法进行研究。结果表明：级联空时编码系统的误码性能远优于单一空时编码的误码性能。　　（2）简单的级联空时编码方案虽然有效地改善了光通信系统的误码性能，但在采用串行干扰消除译码算法时，首层的错误会严重影响其他层译码的正确性（即存在错误传播），这将导致系统的误码率还是较大。针对该问题，本文通过引入了外迭代，提出了一种新的联合检测迭代译码算法，并对其误码性能进行仿真分析。结果表明：与简单译码算法相比较，联合检测迭代译码算法能更好地改善级联编码系统的误码性能，特别是在强湍流下，性能的改善量更大，可有效抵御强湍流对大气激光通信的影响。