随着互联网业务的飞速发展,传统的直接检测加波分复用系统的组合已经无法满足人们对系统容量日益增长的要求。如何在目前受限的带宽中进一步提高系统容量,即如何实现高谱效率传输,成了当前光通信传输系统的核心需求。按照利用单个还是多个光载波,高谱效率可以分别在电域实现和光域实现。相干光正交频分复用(CO-OFDM, coherent optical orthogonal frequency division multiplexing)技术利用单个光载波,电域上引入多个正交的子载波(subcarrier),允许子信道的频谱互相重叠,频谱效率很高,并能有效对抗链路中线性损伤如色散和偏振模色散的影响。但由于OFDM信号的峰值功率比(PAPR, peak-to-average power ratio)很高,光纤非线性是系统性能主要限制因素之一目前存在一些改善非线性方法,但是这些方法或者改变系统结构、或者消耗额外频谱,增加系统复杂度和成本。本论文提出一种基于新型调制格式的CO-OFDM系统,可以在不改变发送端和接收端结构的情况下,提高目前CO-OFDM系统对抗光纤非线性的容限。并在不同码元之间引入相关性,进一步释放对信道估计和相位噪声补偿的要求,从而达到提高非线性容限的同时降低系统复杂度、提高频谱利用率。另一方面,通过利用多个光载波实现高谱效率传输的方式称为超信道(superchannel)。超信道可以在灵活的格子(grid)中实现,从而取代国际电信联盟(ITU, International Telecommunication Union)规定的固有的50GHz的信道间隔,具有带宽分配灵活和高谱效率的优势。目前广泛研究的实现超信道的两种技术是N-WDM (Nyquist WDM, Nyquist wavelength division multiplexing)和全光OFDM (AO-OFDM, all optical orthogonal frequency division multiplexing)。但是这两种技术都存在一定的技术实现限制。AO-OFDM无法支持比较高阶的调制格式,而N-WDM对发送端的光预滤波器和接收端的信号处理要求很高。本文研究了另一种实现方案：相干波分复用(CoWDM, coherent wavelength division multiplexing)技术,分析其实现原理和相比N-WDM和AO-OFDM在实现超信道方面的优势。本文的主要研究内容和创新工作包括：1.基于新型调制格式的CO-OFDM的系统研究a)研究了CO-OFDM系统的基本原理和数学模型,建立了仿真平台,在传输链路损伤如自发辐射噪声、色散、光纤非线性、激光器线宽等因素的影响下,对基于不同调制格式的CO-OFDM系统的性能进行分析。b)区别于已有的在发送端对信号进行预处理、接收端进行各种算法补偿来改善系统对抗非线性容限的方法,论文提出了将新型调制格式应用到CO-OFDM系统中来增强系统对抗非线性的容忍度。重点分析了基于幅度相位键控(APSK)的CO-OFDM系统。以基于16正交幅度调制(QAM, quadrature amplitude modulation)调制的CO-OFDM系统作为参考。仿真结果表明不管是在速率为30.2Gb/s单偏振态、单信道系统中,还是5×30.2Gb/s单偏振态、波分复用系统中,经过640km光纤传输后,基于16APSK的OFDM信号的最佳入纤功率和相应的Q值均比基于16QAM的OFDM信号分别大2dB和0.5dB。另一种新型调制格式是星型LQAM (SLQAM, star L QAM, L表示星座点数)。基于SLQAM的OFDM信号与基于APSK的OFDM信号有类似性,都是相比方形的QAM的PAPR要低,因此对抗光纤非线性的能力也有所增强。在30.2Gb/s的单偏振态系统中,经过64Okm光纤传输后,基于S16QAM的OFDM信号的最佳入纤功率和相应的Q值比基于16QAM的OFDM信号分别大2dB和0.6dB。在5×30.2Gbit/s WDM系统中,经过640km传输后,基于S16QAM的OFDM信号的最佳入纤功率和相应的Q值比基于16QAM的OFDM信号分别大1dB和0.7dB。尽管激光器线宽会影响基于S16QAM的CO-OFDM信号的性能,当激光器线宽增大至10kHz时,性能改变都不大。c)论文提出了一种将差分调制引入到基于APSK的CO-OFDM系统中的方案。对比了基于时域差分和频域差分16APSK的OFDM系统在不同传输损伤下的特性。基于时域差分的16APSK的OFDM信号相比基于频域差分的16APSK的OFDM信号,在对抗色散方面有优势,但在激光器线宽的影响下表现差。在传输性能方面,这两种差分方案不仅继承了新型调制格式低峰值功率比的特点,而且由于差分关系免去了对训练码元和导频的需求,实现了在增强系统对抗光纤非线性容限的基础上,增加系统的频谱利用率和有效数据速率。经过640km光纤传输后,不管是在速率为30.2Gb/s单偏振态、单信道系统中,还是5×302Gb/s单偏振态、波分复用系统中,基于差分16APSK的OFDM系统的性能表现与基于16APSK的OFDM系统类似,其最佳入射功率和相应的Q值比基于16QAM的OFDM信号分别大2dB和0.5dB。同时,按照本文的参数设置,相比基于16QAM的CO-OFDM系统,基于16APSK的CO-OFDM系统谱效率至少提高了20%,净数据速率增加了2%。2.基于offset-QAM的CoWDM的系统研究a)分析CoWDM的理论模型,研究了实现超信道的基于offset-QAM的CoWDM、N-WDM和AO-OFDM这三种技术的基本原理。b)利用仿真平台分析了这三种技术在在单偏振态和偏振复用的超信道系统中,在滤波器带宽、接收端算法等影响下的性能。结果表明,由于AO-OFDM频谱的拖尾很长,信道串扰严重,性能最差,并且无法支持4QAM以上的高阶调制格式。而N-WDM虽然使用了预滤波器对信号的频谱进行了处理,但是它需要非常长的记忆长度的脉冲成形滤波器来产生sinc型的脉冲形状。而且其性能对滤波器的变化非常敏感。相比之下,基于offset-QAM的CoWDM系统降低了降低了为实现信道正交性所需的信号频谱形状的要求,同时又增强了对滤波器带宽的容限。而且它对接收端有限脉冲响应(FIR, finite impulse response)滤波器的记忆长度变化不敏感。不仅如此,基于offset-QAM的CoWDM相比N-WDM在传输性能方面也有很强的优势。在9x25GS/s的超信道系统中,CoWDM的传输距离改善能达到30%以上。偏振复用系统中,基于offset-QAM的CoWDM不仅能够保持其在对发送接收端滤波器带宽的高容忍度和所需FIR滤波器记忆长度短的优势,在传输距离上更进一步。相比Nyquist WDM和全光OFDM这两种已经广泛研究的超信道技术,CoWDM具有对滤波器带宽容忍度高、使用目前的商用器件的可实现性、在传输方面对抗传输链路损伤强的优势,必将成为下一代高性能光通信系统的主要解决方案。