随着光纤通信的蓬勃发展,与光纤通信紧密相关的光纤非线性现象的研究也越来越引起人们的重视。光纤的数学模型是非线性薛定谔方程,一般情况下它没有解析解。为了理解光脉冲在光纤中传播时的行为,许多数值仿真方法被人们开发出来。这些方法可以分为两大类：伪谱法和有限差分法。一般情况下,在同样精度要求的条件下,伪谱法比有限差分法在计算速度方面要快一个数量级。伪谱法中最为人们广泛使用的方法是分步傅立叶法,这种方法相对于大多数有限差分法有更快的速度。分步傅立叶法现在也有许多不同的改进形式,具体来讲,从两个方面进行改进：分步傅立叶法自身实现的改进和步长大小选择的改进。本论文就是从这两个方面出发,提出了一种新的优化数值仿真方法,并将此方法与其它已存在的方法进行了对比研究。主要内容和成果如下：(1)光纤的数学模型是非线性薛定谔方程,研究数值仿真方法之前必须了解不同形式关于光纤的非线性薛定谔方程。本论文简单推导和总结对比了在单模条件下常用的两种不同形式的非线性薛定谔方程。普通形式的非线性薛定谔方程在不考虑拉曼效应的条件下常常被使用,利用它能够解释大多数光纤中发生的非线性现象,广义非线性薛定谔方程考虑了拉曼效应和高阶色散效应。(2)对比研究了光纤通信系统仿真中常用的分步傅立叶算法和有限差分法,并从数学方面论证了分步傅立叶算法的有效性,分析对比了各种不同形式改进版的分步傅立叶算法,比较了它们的精度和仿真时间效率,为新的方法的提出打下坚实的理论基础。(3)光纤方程的损耗项通常和色散项放在一起进行数值计算,损耗项和非线性项放在一起来进行数值仿真是一种新颖的想法,本论文采用了这种思想。研究了各种不同形式步长选取方法,特别是基于局部误差的最小面积不匹配算法,该算法利用最速下降法来迭代计算最小不匹配面积。研究了非线性薛定谔方程的非线性项的算法,特别是相互作用图景这种思想在非线性项数值计算中的应用,四阶荣格库塔法常常用来实现这种思想,四阶荣格库塔法可以在时域实现,也可以在频域实现,在频域使用四阶荣格库塔法要比在时域实现使用消耗的计算时间要少。基于上述所提各种新的算法,本论文提出了基于局部误差的最小面积不匹配算法结合四阶荣格库塔频域法的一种新的数值仿真方法。该方法不仅准确度高和适用于各种形式的非线性薛定谔方程,运算省时,而且与系统和用户无关。(4)飞秒孤子在光纤中的传输和利用光纤产生超连续谱这两种非线性现象常用来检验数值仿真方法的性能,本论文通过仿真飞秒孤子在光纤中的传输和超连续谱的产生,验证了所提出的新的算法是最有效的算法。通过仅考虑科尔效应和三阶色散效应的波分复用系统的数值仿真和对比研究本论文所提出的方法与不确定原理法,局部错误法,非线性相位改变法及游走算法,得出本论文所提方法是最有效的方法。