通信技术的发展给社会带来了巨大的变革,物联网、5G逐渐进入人们的视野,随着信息基础设施的完善以及信息技术的发展,传输流量的增长给光传送网提出了更高的要求。相干光通信凭借其高速率、大带宽等优势成为光通信领域的关注和研究热点,而接收端的数字信号处理技术能对信号在传输中受到的各种损伤进行补偿,从而大幅提高传输距离。卡尔曼滤波算法由于实时性好、复杂度低成为了相干光通信数字信号处理的热点之一。本文围绕利用卡尔曼滤波进行相干光通信系统载波恢复这一主题进行研究,分析相干光通信中载波噪声出现的原因,介绍了经典的信号处理算法,并重点研究了载波相位噪声对传输性能的影响。利用扩展卡尔曼滤波和线性卡尔曼滤波算法进行了载波相位恢复,随后结合DSP Builder对算法进行了系统级功能仿真,主要工作如下:(1)搭建了QPSK、QAM相干光通信传输仿真系统。利用该仿真平台,研究了16QAM信号的差分编码方式,分析了载波频偏和相位噪声对信号的影响,对比了多种载波相位恢复算法,并通过MATLAB验证了算法的可行性。(2)提出了基于扩展卡尔曼滤波的双偏振载波相位恢复算法(XY-EKF),并在224Gbit/s DP-16QAM传输系统中进行了背靠背和320km的光纤传输仿真。结果表明,与经典扩展卡尔曼滤波算法相比,在保证同样系统性能的情况下,XY-EKF算法计算复杂度降低了1/3,同时提高了一定的线宽容忍度。(3)利用线性卡尔曼滤波结合最大似然估计(KF/ML)进行了载波相位恢复,同时通过插入训练序列和初值更新两种方法解决了分块滤波时收敛慢的问题。对比了双偏振情况下两种算法的性能表现,结果表明,KF/ML算法线宽容忍度更高,而分块卡尔曼滤波算法恢复精度更高,并且复杂度更低。(4)利用MATLAB中的Simulink和DSP Builder设计软件进行了KF/ML算法的系统级仿真。通过Simulink平台上DSP Builder器件库,利用其中的元器件设计了KF/ML算法的各个功能模块,并和软件中的结果进行了对比分析。