21世纪以来,网络用户对于数据速率的需求越来越大,云计算、大数据等技术的快速发展也需要对通信网络进行扩容和升级,因此光纤传输系统需要更高的传输容量来保障日益增长的业务流量需求。在传统的基于强度调制/直接检测(IM/DD)的光纤通信系统中,每个符号所包含的比特数目有限;且由于器件带宽和采样速率的限制,系统的符号速率受限;并且随着速率的提升,系统对色度色散、偏振模色散等损伤的容忍度急剧下降。所以基于IM/DD的系统无法满足用户对通信容量的需求。与IM/DD的光纤通信系统相比,相干光纤通信系统的接收机灵敏度更高,能够支持更高阶的调制格式来提升频谱利用率,且能够在电域用数字信号处理(DSP)技术对信号进行均衡。这些优势使得相干光纤通信系统成为了高速长距离光纤传输系统的首选方案。相干光纤通信系统中,DSP技术能够很好地均衡色度色散、偏振模色散等线性损伤,系统的非线性损伤便成为相干光纤通信系统发展的瓶颈。本论文深入研究了超高速光纤传输系统中光纤非线性效应的模型机理、抑制和监测方案。论文首先从非线性效应的机理出发,验证了高斯噪声模型的适用性,并研究了波分复用系统中使得光纤非线性效应最小的最佳单信道符号速率,有效地抑制了非线性效应。论文接着通过对线性调频(LFM)信号导频进行分数阶傅里叶变换(FrFT)、对差分导频(DP)进行频域抽取等方法,有效地监测了光纤链路中的色度色散、光信噪比(OSNR)和非线性效应。本论文的主要研究内容和创新点分为两个方面:(一)非线性效应机理方面:研究内容:非线性噪声模型是非线性噪声抑制、监测和补偿的基础,而高斯噪声模型是非线性噪声模型研究的重点和热点。为了验证高斯噪声模型的适用性,本论文首先在三信道Nyquist波分复用系统中对高斯噪声模型进行了验证。研究发现,当系统包含预色散时,采用高斯噪声模型对非线性噪声的估计会更加准确。波分复用系统中,当固定系统的总容量、总带宽和调制格式时,改变单信道符号速率和信道数目会改变非线性噪声功率的大小,选取使得非线性噪声功率最小的单信道符号速率能够有效抑制系统的非线性噪声,进而能够使得系统性能得到提升。本论文研究了波分复用系统中使得非线性效应最小的最佳单信道符号速率。本论文探讨了能够改变系统非线性噪声功率大小的一些系统参数,这些参数包括相位匹配效应、子信道之间的频谱间隙、跨段数目和调制格式等。通过对这些参数进行逐一分析和验证,得出了使得非线性噪声功率最小的单信道符号速率,有效地抑制了非线性噪声,提升了系统性能。创新点:从机理上细致全面地分析了相位匹配效应、频谱间隙、跨段数目和调制格式等影响系统最佳单信道符号速率的因素。为抑制系统的非线性效应和提升系统的传输性能提供了有力的理论依据。(二)非线性效应监测方面:研究内容:色度色散、OSNR和信道间非线性效应的监测是光纤通信系统的维护和优化中需要解决的重要问题。光纤的色度色散值是非线性效应模型、抑制、监测和补偿中最重要的影响参数之一。光纤传输系统中噪声的监测是系统维护和优化的重要组成部分。在光纤传输系统中,接收到的信号噪声主要包括链路中的放大自发辐射(ASE)噪声和非线性噪声,其中ASE噪声功率的监测对应OSNR的监测。在所有的非线性效应中,信道内非线性效应能够用算法补偿。信道间非线性效应便成为非线性噪声监测的重点和难点。在以往的信道间非线性效应监测方案中,基于角度压缩DP的方案是最具代表性一种方法,但是其复杂度高,且低估了信道间非线性噪声的功率。本论文首先提出了一种基于对频域LFM信号导频进行FrFT的色度色散监测方案。该方案首先在频域插入两个中心频率不同的LFM信号导频,在接收端对LFM信号导频进行FrFT,根据两个LFM信号导频在分数阶域的峰值位置差来测量时延差,进而监测色度色散。结果表明该色度色散测量方案具有很好的抗噪声性能。本方案能够使用无DSP的纯器件方案来实现,还能够灵活调节色度色散的测量精度和测量范围,可用于测量动态可重构光网络的色度色散。本论文接着提出了一种基于对时域LFM信号导频进行FrFT的色度色散、OSNR和信道间非线性效应的多系统参数联合监测方案。该方案在待测信道的帧头插入LFM信号导频,且两个偏振态上LFM信号导频的中心频率不同。在接收端对两个偏振态上的LFM信号导频分别进行FrFT,色度色散值能够通过测量分数阶域的峰值位置差来得到。在补偿掉色度色散后,在频域测量ASE噪声功率,并计算出OSNR。再用FrFT将LFM信号导频变到分数阶域,去除掉分数阶域的尖峰,剩下的信号功率可以看做是信道间非线性噪声功率和ASE噪声功率的和,用这个功率和减去在频域求得的ASE噪声功率,得到信道间非线性噪声的功率值。通过以上步骤,本方案实现了抗噪声干扰的色度色散监测、抗非线性效应干扰的OSNR监测和高准确度的信道间非线性监测。本论文最后提出了一种基于频域抽取DP的信道间非线性效应监测方案。首先在待测信道的帧头插入DP序列,在接收到的DP中远离导频的频率范围处测量ASE噪声功率,并求得信道中总的ASE噪声功率。在频域去除尖峰后得到信道间非线性噪声功率和ASE噪声功率和,减去信道中总的ASE噪声功率便得到信道间非线性噪声的功率值。与基于角度压缩DP的信道间非线性效应监测方案相比,该方案对系统的信道间非线性效应估计更准确,且运算复杂度更低。创新点:1.创新地提出了基于对频域LFM信号导频进行FrFT的色度色散监测方案。2.创新地提出了基于对时域LFM信号导频进行FrFT的色度色散、OSNR和信道间非线性效应监测方案。3.创新地提出了基于对DP信号进行频域抽取的信道间非线性效应的监测方案。本论文从光纤非线性效应的机理出发,研究了高斯噪声模型的适用性,分析了使光纤非线性效应最小的单信道符号速率,有效地抑制了系统的非线性噪声,提升了系统的性能;提出了多种色度色散,OSNR和信道间非线性效应的监测方案,有效地评估了系统参数,为超高速光纤通信系统的系统维护和优化提供了重要的支撑。