本文以综合考虑高阶效应的变系数耦合高阶非线性薛定谔方程为基本的理论模型,探讨了脉冲在非均匀光纤中的传输,探析三阶色散以及自陡峭效应对拉曼脉冲产生的影响,并且讨论了泵浦脉冲和拉曼脉冲的频谱特性,进一步通过拟解法求出理论模型的精确解,并解析和数值模拟研究了具有精确孤子解形式的光孤子脉冲在实际光纤系统中的传输特性,还探讨了各种扰动形式对光脉冲传输的影响,最后研究了两个相邻的具有精确孤波解脉冲之间的相互作用。本文的研究主要包含以下内容:(1)具体介绍了光纤通信的发展历史,重点分析了光孤子通信的研究现状和技术难点,还介绍了光孤子通信系统中不可忽视的高阶效应的研究意义。(2)考虑到光纤的实际传输,我们将适应范畴更广、考虑更多高阶效应的变系数耦合高阶非线性薛定谔方程作为研究对象。采用分步傅里叶数值算法,仿真模拟了光脉冲在光纤中的传输,探析三阶色散效应以及自陡峭效应对拉曼脉冲产生的影响。并且得到了泵浦脉冲和拉曼脉冲的频谱图,讨论其一些频谱特性。(3)从含色散增益和非线性增益的变系数耦合高阶非线性薛定谔方程出发,我们得到了该方程的精确孤子解析解,并研究超短脉冲形式的精确孤子解脉冲的传输特性。且在脉冲入射端加入小幅扰动和随机噪声,研究扰动对脉冲稳定性的影响。(4)最后探讨了两个相邻孤波之间的相互作用,研究初始脉冲间距不同对两相邻孤波之间的相互作用产生的影响。