近几年来,产生和传输高能量、高功率、严格线性啁啾特性的光脉冲是国际上光纤光学领域的研究热点之一,而自相似脉冲很好地解决了传输中脉冲的强度限制问题。自相似是自然界的一种普遍现象,光纤中的自相似性是指在光纤中的正常群速度色散、自相位调制和增益的共同作用下,能够产生能量被显著放大,具有很强线性啁啾而且其时域特征相似于抛物线形状的渐进型脉冲,而在非线性系统中,自相似的出现也给人们带来了很多明显的关于内在动态的信息,研究相关非线性方程的自相似解对理解不同的非线性物理现象具有重大意义,因此自相似解的研究被广泛应用于多个物理领域,如凝聚态物理、等离子物理、流体动力学、量子场论和生物物理学等。但在光学领域,这种特性的研究目前还处在初级阶段,尤其是在非线性光纤光学领域中的研究才刚刚起步。本文以变系数耦合非线性薛定谔方程为模型,通过解析和数值两种方法,研究了自相似光脉冲在耦合非均匀光纤系统中的传输特性。具体内容包括以下几个方面：(1)介绍了光纤通信的历史与发展、孤子理论、光孤子通信的研究现状和自相似光脉冲的研究背景、研究现状以及应用。(2)介绍了光脉冲在光纤中的传输模型及研究脉冲传输特性时所用到的数值方法：分布傅里叶方法及龙格-库塔方法,文中采用二者相结合的方法,避免了单纯使用分布傅里叶方法时所遇到的局限性。(3)采用拟解法求解了自相似光脉冲在耦合非均匀光纤系统中传输所满足的理论模型：变系数耦合非线性薛定谔方程(不含高阶项),得到了其自相似解,并从解析和数值两个方面详细分析了该解在耦合非均匀光纤系统中的传输特性。结果表明,在满足一定的条件下,自相似光脉冲在耦合非均匀光纤系统中可以稳定的传输。(4)采用拟解法、齐次平衡准则以及椭圆函数法求解了变系数耦合高阶非线性薛定谔方程,并用分布傅里叶方法及龙格库塔方法数值分析了该解在耦合非均匀光纤系统中的传输特性,以及有限扰动条件对脉冲稳定性的影响。结果表明,只要参数选择合理,脉冲就可以在耦合非均匀光纤系统中稳定的传输。