本文主要研究了光纤中的一种非线性效应—受激喇曼散射对数字波分复用传输系统性能的影响，以及利用它所开发的光纤喇曼放大器的增益和噪声特性。文中首先在光波理论的基础上导出了光波的非线性传输方程，并对此进行推广，得出了综合考虑各种非线性效应的光波非线性传输方程。接着利用此传输方程来详细讨论受激喇曼散射(SRS)对数字波分复用系统性能的影响。根据数字通信系统几率的特性和微扰理论，建立了受激喇曼散射对通信系统误码率影响的理论模型，并通过数值模拟讨论了受激喇曼散射对系统误码率、最大输入功率和信道数等的限制，获得了一些对实际光通信系统设计有参考价值的结论。为了促进下一代超高速DWDM密集波分复用技术的发展，本文还研究了光纤喇曼放大器的增益特性，根据光波非线性传输方程建立光纤喇曼放大器增益模型，通过数值模拟分析了泵浦波功率、信号输入光功率、以及光纤有效面积和损耗对光纤喇曼放大器增益的影响，得出了一些对光纤喇曼放大器的设计有一定的指导意义的结论。最后结合喇曼放大器宽带宽的特性讨论了在多信道系统中光纤喇曼放大器的串扰问题，研究了在多信道系统情况下，系统中的信扰比与信号输入光功率、信道数以及放大器增益之间的关系，并提出了减小此串扰的方法。