本文围绕与空间光传输相关的两个系统：自由空间量子密钥分配系统和激光目标探测系统开展研究。两者均可以归结为主动式光电收发系统,在基本原理、系统结构、器件使用方面有共性之处。文章对上述两类系统中涉及的关键光器件改进及创新型应用,系统结构优化设计,光信号处理技术改进等方面进行了深入的分析研究。首先,对于自由空间量子密钥分配系统中涉及的单光子信号偏振退化问题进行分析,指出系统中涉及的偏振无关分束器(NPBS)对不同偏振态的相移误差会引起光子偏振态退化,进而形成误码。根据分析结果和己有的系统光器件结构提出改进方案,设计制作了基于偏振编码BB84协议的新型光器件：四偏振分束器。该器件充分考虑了偏振无关分束器对偏振光相位的影响,通过合理光路设计和优化减少由此引起的偏振退化,很好的克服了多个分离光器件组合使用时空气与介质交界面引入的多次反射损耗和杂散光,对于降低系统误码率是有益的。该器件首先被应用于自由空间量子密钥分配系统接收端实现分束检偏功能,通过外场200米空间链路上的密钥分配实验对这一器件的可用性和有效性进行检测,实验中平均每脉冲光子数为0.1的时候测得系统误码率0.91%。实验结果表明该器件的设计制作达到了预期要求,系统筛选密钥误码率维持在较低水平。四偏振分束器对影响误码的偏振无关分束器偏振退化问题进行了控制,并且减轻了系统调整难度。为充分发挥该器件的优势,提出并实现了在接收端和发射端正交对称使用该器件的系统整体光路优化方案。通过理论计算证明这种优化方法对于补偿分束器残余的偏振相移误差具有非常好的效果。随后完成系统样机设计,在1.3公里距离上进行了外场量子密钥分配实验,平均每脉冲光子数为0.1的时候得到误码率为2.8%,整个系统的工作非常稳定可靠。为进一步验证这种光路优化方法的优势,又进行了不同发射端机的对比实验,结果证明四偏振分束器正交配对使用的方案在简化系统结构的同时保持了良好的系统性能。激光目标探测系统是本文研究的另外一类空间光传输系统。基于激光目标探测系统的性能提升需求,提出将I/Q (in-phase/quadrature)光调制器应用于频率调制外差激光目标探测系统中,代替系统原有的声光调制器和电光调制器,弥补了原有调制器频移量不足的问题,极大的提高了外差探测可用调制带宽。充分利用I/Q光调制器的载波抑制和单边带调制特性实现宽带线性频率调制的加载,通过光纤内的距离测试分析该器件应用于距离探测的可行性。实验结果显示该器件具有良好的线性调制特性,可以实现的距离探测分辨率达到2.3cm。为了同时实现高分辨率的目标距离和速度探测,提出将改进后的调制波形通过I/Q光调制器加载到光载波的上下边带,在下边带进行单频调制,利用多普勒频移测速,在上边带进行宽带线性频率调制测距,通过速度补偿函数解距离-速度耦合。该方法解除了速度探测对距离探测的依赖,在求解真实距离时所需要进行的解耦方法简单易行,从而实现距离和速度的同时高精度无干扰探测。随后改进了频率调制外差激光目标探测系统,在实验室内对旋转圆盘的距离和速度进行探测,实测信号3dB带宽对应距离分辨率约3.2cm,该值与理论计算结果比较吻合,速度测量的分辨率约为0.5m/s,符合理论计算结果。随后,分析了该系统中的I/Q光调制器调频线性度和载波泄露、镜像频率对实验结果的影响。最后就使用该系统实现多运动目标探测进行分析和研究。对发射信号进行改进,保持原信号载波下边带单频调制不变,对上边带进行变周期宽带频率调制,实现多目标距离-速度正确解耦。通过对四个不同运动目标的探测进行仿真验证。