当前所处的信息化社会对高速安全的通信有着迫切的需求,自由空间激光通信具有宽带、高速的优势,混沌具有的初值敏感性、伪随机性等特性,天然适用于信息加密,将混沌加密技术应用于空间激光通信系统中,可在物理层面对信息进行加密,保证信息安全高速的传输,是实现安全高速通信的可行技术,具有广阔的应用前景。但是自由空间信道中存在的大气湍流会严重降低传输信号的质量,限制了空间激光通信技术的发展与应用。目前关于大气湍流对自由空间混沌激光通信系统影响的研究还比较少,开展相关的研究工作就显得十分必要。本论文根据非线性器件光电反馈混沌发生系统,给出了包含大气信道的自由空间混沌激光通信系统设计,在理论和实验方面对自由空间信道中大气湍流引起的失配噪声对系统通信性能的影响进行了研究。首先是通过数值仿真分别分析上行链路和下行链路中大气湍流对误码率影响。在下行链路中,大气湍流的影响主要是光强闪烁效应,上行链路中还存在较为明显的光束漂移效应。我们对比了有无大气湍流时系统的误码率,大气湍流影响下通信性能恶化明显。之后深入分析了大气湍流对系统误码率的影响方式,仿真结果表明,功率较大或较小时对应的瞬时误码率较差,尽管这部分接收光出现的概率很小,但其对应的较大的瞬时误码率使最终的系综平均误码率显著增大。而在上行链路中,光束漂移效应导致接收光功率整体衰减,接收光功率处于较小值的概率进一步增大,该部分的瞬时误码率对系统最终误码率起主导作用。随后,我们对比了大气湍流引起的内外失配对系统误码率的独立影响,总体上内失配会引起更大程度的误码率恶化。而与下行链路不同,上行链路中存在最优束散角使系统误码率最小,这也导致束散角较小时外失配的影响程度反而大于内失配。仿真分析后,我们对系统结构进行了细节优化,搭建了一套室内空间混沌激光通信系统,经过初步调试和精细调试达到了较好的混沌同步效果。我们用流动的水汽模拟大气湍流的影响,对数值仿真结果进行了初步验证。实验测试了不同通信速率下大气湍流对误码率的影响情况,以及通过改变参数模拟了内外失配对误码率的独立影响,整体上实验结果与仿真结果相符。此外,我们还进一步测试了窃听方的误码率以验证混沌加密的效果。本论文针对大气湍流对空间激光混沌通信系统性能的影响进行了理论和实验的研究,该研究结果为理解大气湍流对自由空间混沌激光通信的影响奠定了基础,并对实际空间混沌激光通信系统的设计具有一定的参考意义。