由于卫星光通信相比微波通信具有通信数据率高、通信容量大等优势,所以卫星光通信技术受到高度重视,为了提高卫星激光通信系统探测灵敏度,实现高速通信数据率,并且在综合考虑工程实现难度情况下,采用光纤通信系统中的波分复用技术和光放大器成为一种潜在选择,因此解决空间光束至单模光纤的耦合问题成为前提基础。在进行空间光束至单模光纤耦合的过程中,耦合效率对空间光束与光纤轴心的对准误差非常敏感,而耦合效率的降低导致光接收机灵敏度下降,要保持较小的对准误差则需要对光通信系统跟踪精度提出更高的要求,所以提高光纤耦合容差特性对优化光通信系统性能来说非常重要。本文针对接收终端中空间光至单模光纤耦合容差较小的问题,提出对耦合特性进行优化研究,主要研究内容:首先介绍了卫星光通信的发展背景,针对采用光纤耦合为接收方式的通信系统,就其国内外的研究与进展状况进行了论述,以空间光至单模光纤耦合的模型为基础,通过模式耦合理论推导了最佳情况下单模光纤的耦合效率表达式,给出了接收光纤的相对位置存在横向、轴向及倾斜偏差时耦合效率的修正因子,重点分析了横向位移偏差对耦合效率的影响,并对入射偏差角度与横向位移偏差对耦合效率影响的等效性进行了分析。其次对耦合透镜离焦光场进行分析,讨论了离焦因素对耦合特性参数的影响。研究了不同耦合参数情况下耦合特性参数的变化情况,适当减小耦合参数能够提高耦合系统对偏差的容忍程度,利用Code V仿真软件建立耦合系统模型,对其进行了仿真验证。最后研究了锥形光纤对耦合特性的影响,在介绍锥形光纤传输原理的基础上分析了锥形光纤特征参数,基于锥形光纤实现光传输由多模至单模的转换。通过局部模式理论分析了锥形光纤传输特性,推导了锥形光纤中高斯光束传输的ABCD矩阵,分析了锥形前后端面模场变化,并通过仿真光波导传输过程阐述光场分布的变化过程,利用光场高斯近似计算了锥形光纤传输效率。自行制作了锥形光纤实验样品,对其进行空间光耦合实验,相比单模光纤,利用锥形光纤进行空间光耦合对系统对准偏差具有更好的容忍程度。