空间激光通信技术使用激光作为信息传输载体,保密性好、容量大、速率高;其探测方式包括振幅探测和相干探测两种体制,其中相干探测具有灵敏度高,传输容量大的特点,是远距离激光通信的研究热点。常规的激光通信系统大多为单一探测体制,通信方式不灵活,无法满足多谱段空间通信的需求。使用不同探测体制的终端组合可解决此问题,但会使终端的体积、成本大大增加,难以适用,因此将其进行一体化整合设计成为该问题的最佳解决方案。终端光学系统作为整合接收系统的核心部件,必须具备像质良好、结构紧凑等特点。在相干通信光学系统中,使用圆偏振光作为信号光,除了要求波像差较小以外,还要求光学系统具有良好的保偏能力来保证系统的通信性能。本文针对多谱段复合探测体制的激光通信光学系统进行设计,并对其进行偏振特性分析,包括以下内容:首先,通过调研激光通信终端的国内外发展现状及查阅相关资料,提出本文的多谱段复合探测体制的激光通信光学系统;对相干通信系统偏振特性的研究现状进行介绍,指出目前研究的不足之处,提出本文要分析的主要问题。其次,根据实际设计需求,对激光发射结构进行了初始结构计算,使用光学仿真软件ZEMAX进一步优化结构;对信标光、信号光接收系统分别进行优化设计,并利用中继分光元件实现了三路接收系统的整合设计。结果表明,发射系统具有良好的准直效果;接收系统能量集中,MTF接近衍射极限,实现了系统的多谱段复合探测需求。然后对光学系统进行了检测及性能分析,测试及分析结果表明该光学系统综合性能良好,可应用于近、中程距离通信链路中。最后,以本文设计的激光通信光学系统为基础,基于三维偏振光线追迹算法,仿真及定量分析了系统中正交反射镜组的偏振特性,推导了该系统的偏振传输解析表达式,在入射圆偏振光的情况下,计算及仿真了出射光束的偏振态。研究分析了振镜的摆扫运动对正交反射镜偏振特性的影响,提出了减小系统偏振误差的有效措施,并给出了系统实际应用过程中的偏振补偿方案。