近年来，随着用户对高速数据、图像和宽带流媒体等业务需求的不断增长，光纤通信的发展方向已成为在无信号再生基础上实现更高速率和更长距离传输。随着半导体激光器和光电器件性能的高速发展，尤其是高速信号处理技术的发展，具有高谱效率和高灵敏度优势的相干光通信技术越来越引起人们关注。　　 本文主要研究相干光通信系统的原理、实现及其应用。完成了相干光通信理论分析和性能仿真；研究了相干光通信系统的关键技术，实现了高灵敏度和高谱效率的相干接收实验。主要研究内容如下：　　 ●介绍了相干光通信的研究背景及优势，总结了相干光通信的国内外研究概况，对比了已报道的大部分相干通信系统及其实现方式。对比了相干通信系统中的单元技术并对其优缺点进行分析。介绍了相干接收的基本原理，从理论上分析了相干接收机的各种噪声，仿真分析了相干光系统中多种二进制码型在不同接收方式下的性能特点。　　 ●完成相干光通信系统设计。研究了相干光通信系统中的关键单元技术，包括：1、高稳定性低噪声的相干光源技术。完成窄线宽相干光源的选型及其驱动电路设计，实现了线宽为2.6MHz，频率漂移小于50MHz，输出功率大于13dBm的相干光源输出；2、码型调制技术。研究了基于单个LiNbO3调制器实现多种调制码型的产生技术；研制出了调制速率10Gb/s，具有偏置和增益自动控制功能的光发射机。3、本振和信号光相位匹配技术。4、本振与信号光偏振匹配技术。提出并在DSP中实现一种在线式自适应偏振控制算法，最慢响应速度<1s，灵敏度优于-54dBm，插入损耗<0.5dB。　　 ●完成了NRZ码外差包络检波和零差相位分集接收和DPSK码的外差1bit延时接收实验。优化了相干接收机的参数，在不进行频率锁定和相位控制的情况下，NRZ码异步外差接收方式在2.5Gbit/s传输速率下实现了-39.9dBm的灵敏度。　　 ●研究了相干光通信系统中的两种提高谱效率的复用技术。提出了一种相干外差WDM传输技术，提高信道谱效率为原来的1.5倍，提出一种多进制调制（QPSK/4QAM）的相干接收技术，仅用一个低带宽的平衡机实现谱效率为2bit/s/Hz调制格式的接收。