随着光纤通信技术的发展,无中继光传输距离越来越长,由过去的几十公里到现在的几百公里。由于无中继光传输距离受限于光纤的衰减、色散和非线性效应等因素,当光纤传输损耗超过90dB,传统的无中继光传输技术已经无法实现现有传输损耗的突破,需要寻求新的光传输技术来延长无中继传输距离。拉曼光纤放大器(FRA)以传输光纤本身作为增益介质对信号实现分布式放大,具有增益高、带宽大、噪声低等优点,使其成为无中继光传输系统的关键技术之一。现有一阶和二阶FRA对光传输系统的优化能力有限,而三阶FRA在达到相同增益的情况下具有更低的等效噪声指数,因而能明显改善系统性能,实现更远的无中继传输。本文重点围绕着三阶拉曼光纤放大器展开,主要分析了三阶FRA的数学模型及其求解方法,针对三阶FRA的噪声和增益等关键性能指标,提出了一种基于半导体激光器的多泵浦波长的新型三阶拉曼光纤放大器,优化了激光激射和相对强度噪声(RIN)对系统的影响,并对基于该新型三阶拉曼光纤放大器的高速超长无中继光传输系统进行了实验。具体研究工作如下:(1)基于受激拉曼散射效应基本理论,研究了三阶FRA的原理,并根据现有一阶、二阶和传统三阶FRA结构,设计了一种基于半导体激光器的多泵浦波长的新型三阶FRA结构。(2)通过对单泵浦单信号的一阶FRA传输方程的研究,拓展推导了三阶FRA泵浦光、信号光、瑞利散射、双瑞利散射(DRS)和放大的自发辐射(ASE)噪声的数学模型,并给出了在初值和边值条件下三阶拉曼光纤放大器数学模型的求解方法。(3)通过分析拉曼光纤放大器的噪声来源和相关指标参数,仿真分析了在DRS和ASE噪声的影响下,一阶、二阶和三阶FRA的性能,并得出结论:传统三阶FRA比一阶FRA有2.1dB系统光信噪比(OSNR)改善,传统三阶FRA比二阶FRA有1.2dB的系统OSNR改善,新型三阶FRA比二阶FRA有0.9dB的系统OSNR改善。(4)采用基于半导体激光器的多泵浦波长的新型三阶拉曼光纤放大器设计了单波50Gbit/s与100Gbit/s的高速率超长无中继传输系统,在国内首次实现了单波50Gbit/s、线路总损耗103.95dB和单波100Gbit/s、线路总损耗101.27dB的传输系统。