随着自由空间通信的不断发展,更高频率的载波已经成为一种必然要求。由于激光通信的载波工作频率要比微波通信高出五个数量级以上,因此自由空间光通信一直是一种可扩展、低成本、易安装的空间通信替代方案。相比于传统的空间微波通信,自由空间光通信系统具有一系列优势,例如通信带宽高、空间光束小、接收天线小等,因而得到广泛关注,并在许多领域都有很好的应用前景。而为了实现长距离的空间通信,光电接收机作为自由空间光通信系统的重要组成部分,将其灵敏度提升至量子极限灵敏度是一个非常重要的研究方向。由于传统的基于雪崩光电二极管(APD)的光电接收机、基于半导体光放大器(SOA)的光放大接收机和基于相干探测的相干接收机都无法很好达到理想的量子极限灵敏度,本论文对光电接收机的灵敏度机制进行了研究分析,并基于此对量子极限灵敏度的相干接收机方案进行研究设计。一方面通过接收端的光学系统设计来减小信号光损耗和提高接收机对准耦合精度,从而在光学上保证接收机对信号光的完全接收,另一方面通过对接收机的研究改进来放大信号、减小额外噪声、提高光电探测器的量子效率,从而在电学上保证光电接收机可以达到最好的信噪比,最终实现相干接收机的量子极限灵敏度。本文的主要内容和创新点如下:(1)提出了低信号光损耗的偏振无关技术方案。在外差探测中可通过控制本振光两个正交偏振态分量的相位或者频率,使得探测器最终输出的中频信号主要由两个高频部分组成,从而在频域上实现了偏振分集。如此接收机的偏振无关只需进行滤波解调控制即可,而信号光的损耗和相位失配也可以得到避免。(2)设计了一种新型的双螺旋光电位敏探测器(PSD),其可以与接收探测器(PD)集成在同一光轴方向上。当光斑照射到螺旋PSD上时,光斑位置信息由螺旋PSD探测获得,其表达方式是极坐标形式(r,?)。光斑大小是此对准系统功能实现的关键,也能通过螺旋PSD的响应变化推导调节到合适的值。当光斑移动器件中心时,接收机的接收探测器能对信号光进行准确完整地吸收,避免了光学系统的机械误差问题。(3)设计了基于InAs e-APD的相干接收机以应用于自由空间光通信。由于微弱信号的增益由来源于本振光的相干增益和InAs e-APD的雪崩增益,基于InAs e-APD的相干接收机可以利用较小的本振光功率达到接近其量子极限,因此它相比于传统的基于PIN探测器的相干接收机,可以获得更高信号增益和更好的灵敏度改善。(4)提出了基于固态雪崩离化放大器(SIM)的平衡相干接收机。由于只有平衡探测器的差分电流被放大,因此一方面SIM的过剩噪声影响可以被抑制减小,进一步改善接收机的信噪比,另一方面,探测器不易饱和的优势可使得接收机达到很高的增益,这一点使其可适用于空间量子通信。此外,针对传统SIM存在的低带宽问题,本文研究设计了一种叉指型高速高饱和的SIM结构,可将接收机系统带宽提高到GHz量级。(5)实验研究了光电探测器的工艺技术,并对采用部分掺杂吸收区的光电探测器进行了测试分析。首次发现了在高电流密度条件下,由于芯片的热效应,采用部分掺杂吸收区的光电探测器的内量子效率可以得到改善提高。并根据这一现象,设计提出了一种多孔型的大面积光电探测器,目标是实现高速、高响应度、高光电流密度的光电探测。