波分复用(WDM)和掺铒光纤放大器(EDFA)的结合应用是充分挖掘光纤带宽能力，实现大容量、高速率、长距离通信的最佳手段。一直以来，光纤损耗、色散和非线性效应是三个限制光纤传输系统性能的重要因素。由于EDFA的实用化，光纤损耗对系统的限制已不是重要的因素了；同时，色散管理和色散支持技术可以有效地改善色散对系统性能的限制。但是，随着光纤中信道数的增多、光功率的增加，已使光纤非线性效应成为影响系统性能的主要因素。所以研究多信道光场在WDM通信系统用的有损耗、色散、非线性的光纤中的传输情况对于分析光纤非线性效应、提高光纤传输容量、改善WDM通信性能有着重要的理论和实践意义。 本文首次从光脉冲在有损耗、色散、非线性的光纤中的基本波动方程出发，应用一些符合实际的假设，直接利用场的时空傅里叶变换详细地推导出在WDM系统中光信号在单模光纤内传播所服从的非线性传输方程。该方程描述了光脉冲在WDM光纤系统中的传输行为，包含了在光纤色散、损耗、非线性效应影响下含有不同偏振态的光信号传输情况。它可直接适用于WDM光纤传输系统的非线性效应的研究，为进一步深入研究光纤非线性效应对WDM系统传输性能的影响提供了的理论基础。 接着本文讨论了各种光纤非线性效应的成因、特性及其对WDM系统传输性能的影响，着重研究光纤中多信道非线性效应(XPM、FWM和SRS)对WDM光纤传输系统性能的影响，提出了更符合实际情况的非线性传输方程和模型，得出了可供估计这些效应影响程度的示意图，提出抑制其影响的方案和建议。所得结论对系统的设计工作有一定的指导意义。