由于具有短时间和高功率的特点,超短脉冲的产生推动了物理、光学、生物等领域中微观现象和超快过程的研究。特别地,光纤中超短脉冲的发现可以有效提高光通信的传输带宽增大通信容量,尤其在光纤色散和非线性平衡作用下,光孤子形式的超短脉冲(记为超短脉冲光孤子)可以保持初始波形和速度稳定向前传播,从而保证了大容量、长距离的信息通信。对于光纤中脉冲宽度在亚皮秒和飞秒量级的超短脉冲,经典的非线性Schrodinger(NLS)模型已经不再适用,而需要采用含有高阶效应(如三阶色散、自陡峭和受激Raman散射等)的修正NLS模型。为了研究超短脉冲光孤子在不同介质中的动力学机制,本文基于含有高阶非线性项的修正NLS模型,主要分析不同类型超短脉冲光孤子的产生条件、相互作用行为以及高阶非线性效应对超短脉冲光孤子的影响,并借助线性稳定性分析和数值模拟方法研究高阶非线性效应下的调制不稳定性和孤子抵抗初始扰动的能力。本文具体的研究工作包括以下几个方面：(1)均匀单模光纤中超短脉冲暗孤子和反暗孤子研究。基于常系数导数NLS模型给出正常色散区的超短脉冲暗孤子和反暗孤子以及各自形成的参数条件。由于暗孤子比明孤子更能够抵抗外界的干扰,因此超短脉冲暗孤子的理论研究在长距离光通信系统中有潜在应用。通过对孤子相互作用的研究,发现暗孤子和反暗孤子可以在同一背景平面上发生弹性相互作用。另外,利用暗孤子形式的双孤子解在光纤正常色散区得到呼吸子和双极子,并分析参数对呼吸子和双极子物理性质的影响,为光纤中超短脉冲呼吸子和双极子现象的实验观察提供一定的理论依据。(2)非均匀单模光纤中超短脉冲光孤子研究。本文基于变系数导数NLS模型在可积条件下构造非均匀多孤子解,从而可以缩小前人引入啁啾因子求解该模型的局限性。通过选择指数递减色散函数和线性递减色散函数,实现光孤子形式的超短脉冲压缩,为色散递减光纤中超短脉冲压缩技术提供一定的理论参考。通过对非均匀双孤子解的渐近分析,给出非均匀孤子在相互作用前后振幅、速度和相位等物理量的显式表达式,从而可以定量地调节非均匀孤子相互作用。(3)双折射光纤中超短脉冲矢量光孤子研究。本文利用耦合导数NLS模型给出矢量暗孤子、矢量反暗孤子以及混合型矢量孤子产生的参数条件。借助渐近分析,发现包含两个分量的矢量孤子之间的相互作用都是弹性的,但是含有两个以上明孤子分量的混合型矢量孤子之间可以发生非弹性相互作用,并且明孤子偏振分量之间会出现能量交换现象。矢量孤子的能量交换相互作用为实现超短脉冲全光开关和信息传递提供理论基础。另外,还借助时间分步谱方法分析混合型矢量孤子对初始扰动的稳定性。(4)双折射光纤中超短脉冲矢量孤子束缚态研究。通过令相邻孤子具有相同的速度,在高阶非线性效应下获得明孤子束缚态、暗孤子束缚态和反暗孤子束缚态。分离因子的引入使得可以拟线性地调节明孤子束缚态的孤子间距。矢量孤子束缚态与矢量孤子之间的相互作用研究表明,矢量明孤子束缚态与矢量明孤子之间可以发生能量交换的非弹性相互作用,因此明孤子束缚态形式的超短脉冲也可以被当做泵埔光来控制信号脉冲。(5)非线性共振介质中孤子聚变和裂变研究。基于共振NLS模型研究量子势中的孤子共振现象。在不同参数条件下,获得五种形式的具有中间态孤子的孤子相互作用,包括产生大振幅中间态孤子的迎面相互作用、产生小振幅中间态孤子的迎面相互作用、产生小振幅中间态孤子的追赶相互作用、产生大振幅中间态孤子的追赶相互作用以及产生四个中间态孤子的相互作用。由于中间态孤子是相互作用过程中有限相移导致的,因此当相位移动无限大时可以得到孤子聚变和裂变现象。本研究可能对利用超短光脉冲实现光子晶体光纤中超连续谱的产生以及模拟黑洞现象有潜在应用价值。