随着新兴互联网应用的崛起,以及5G建设、物联网发展以及云计算平台搭建、AR/VR视频等应用渗透率在各行各业不断提高等因素的推动下,全球互联网流量的需求持续迅猛增长。面对这样的形势,建立大容量、超高速、长距离以及稳定性能好的高速光纤通信系统已经成为了光纤行业的共识。目前,基于偏分复用(PDM,Polarization Division Multiplexing)系统,高阶调制格式,相干检测以及数字信号处理(DSP,Digital Signal Processing)技术的高速光通信系统已经引起了整个光传输行业的极大关注,并逐渐广泛应用于光传输网络中。但不可否认的是,基于PDM技术的光信号在传输链路中将会受到例如传输损耗,色度色散(CD,Chromatic Dispersion),偏振效应损伤(偏振相关损耗(PDL,Polarization Dependent Loss),偏振模色散(PMD,Polarization Mode Dispersion),偏振态旋转(RSOP,Rotation of State of Polarization)),以及载波相位噪声(CPN,Carrier Phase Noise)和载波频率偏移(CFO,Carrier Frequency Offset)等损伤的影响,使得整个传输系统的性能降低,从而制约了该复用技术的发展。得益于DSP技术的高速发展,集成于相干接收机中,针对于多种损伤的影响,都能对接收的信号实现很好的均衡和补偿。然而,研究发现,在某些极端场景下,例如雷雨天气下,雷电下的强电场与强磁场会在光纤中引发Kerr效应与Faraday效应,进而在雷电周围(范围几百公里)光纤中产生快速变化的双折射,引发光纤中产生大PMD(可达200ps),以及快速RSOP(可达Mrad/s),造成接收机失锁,通信中断。其次,考虑到CD损伤需要在补偿偏振效应损伤之前进行均衡,但往往处理后的信号中仍然残留着少量CD(大约300ps/nm),给后端均衡偏振损伤带来明显的影响。因此,如何实现在极端场景下均衡大PMD以及快速RSOP的同时,还能容忍残余的CD损伤,将是本文的研究重点。本论文围绕高速相干光通信系统中针对极端场景下偏振损伤均衡这一主题,对整个高速相干光通信系统中信号损伤的物理机制进行深入研究,并搭建各类信号损伤具有物理解释性的数学模型,并且针对各类损伤的均衡技术进行更深一步的探究,主要的研究工作如下:(1)介绍了高速PDM相干通信系统的基本原理以及基础架构。进而分析了在相干通信系统中各类损伤的物理机制以及搭建了信号损伤的数学模型。并且搭建了基于相干检测,PDM,DSP技术的PDM-QPSK实验平台以及PDM-16QAM实验平台。(2)以极端场景的损伤物理特性为导向,提出一种基于频域扩展卡尔曼滤波器(EKF,Extended Kalman Filter)的新型算法架构,面对存在残余CD,以及大PMD,高速RSOP的极端损伤环境下,能够实现很好的均衡效果,通过matlab仿真结果验证了方案的可行性。方案创新之处:首先,针对极端损伤环境,存在残余色散(RCD,Residual Chromatic Dispersion),大 PMD 以及快速 RSOP,简化了信道损伤模型,其次,基于频域Kalman滤波器,建立了联合补偿架构,可以实现在频域对大PMD和RCD进行补偿的同时,在时域对快速RSOP进行跟踪,从而具有一定的RCD容忍度,最终实现快速RSOP,大PMD,RCD的联合补偿。与此同时,我们将所提出的Kalman算法与传统的恒模算法(CMA,Constant Modulus Algorithm)/多模算法(MMA,Multiple Modulus Algorithm)在补偿性能,补偿范围以及稳定性,计算复杂度上进行了比较。仿真结果表明,在28GBaud PDM-QPSK 平台中,当光信噪比(OSNR,Optical Signal-to-Noise Ratio)为15dB时,所提出的频域Kalman算法,可以联合补偿超过200ps的大PMD值以及超过3 Mrad/s的快速RSOP值,并且可以容忍超过±820 ps/nm 的 RCD 值,而在 28GBaud PDM-16QAM 平台中,当 OSNR 为22dB时,所提出的频域Kalman算法,在补偿相同极端偏振损伤同时,依旧可以容忍超过±500 ps/nm的RCD值。并且,所提出的Kalman算法在计算复杂度方面相比于CMA/MMA同样具有优势。