超短脉冲光纤激光器因其输出脉冲具有极窄脉冲宽度、超高峰值功率、高重复频率以及良好的稳定性等特点,在光纤通信、激光雷达、消费电子、精密微加工、生物医疗、航空航天以及汽车制造等领域有着广泛的应用。近年来,随着新材料、脉冲整形新机理以及脉冲动力学新行为的持续创新发展,基于被动锁模的超短脉冲光纤激光器成为当前国际上的前沿研究课题之一,我国在该领域具备了较好基础并取得了丰硕科研成果,有望对传统产业和新兴产业起到重要推动作用。因此,研究新型超短脉冲光纤激光器具有十分重要的科学意义与应用价值。本文从锁模新材料、脉冲形成新机制以及脉冲动力学新行为三个方面,对超短脉冲光纤激光器展开理论和实验研究。主要研究内容如下:1.数值模拟了锁模光纤激光器中耗散孤子共振（DSR）脉冲的形成及其演化过程,揭示了一种利用真实可饱和吸收体实现DSR脉冲的新机制,发现材料本身的反饱和吸收效应对DSR脉冲的产生起到了重要作用,并讨论了材料的非线性吸收特性对DSR脉冲参数的影响;从理论上证实了在非线性放大环形镜（NALM）锁模光纤激光器中存在DSR脉冲的周期分岔现象,分析了腔体参数对倍周期DSR脉冲特性的影响。仿真结果表明,增大NALM的饱和功率有助于DSR脉冲产生周期分岔;数值研究了基于非线性光纤环形镜的锁模光纤激光器,通过改变净腔双折射,获得了不同类型的矢量DSR脉冲,包括偏振锁定矢量DSR态、偏振旋转锁定矢量DSR态以及群速度锁定矢量DSR态,并系统分析了它们的偏振演化动力学。2.实现了工作在L波段（1565-1625 nm）的石墨烯/二硫化钨（Gr/WS2）异质结锁模光纤激光器。通过拉曼光谱和光致发光光谱证实了制备的Gr/WS2范德瓦尔斯异质结薄膜中Gr和WS2之间存在强烈的层间相互作用。实验发现,Gr/WS2异质结具有优异的饱和吸收特性,与单层WS2相比,其调制深度更大、饱和光强度更低。利用Gr/WS2异质结锁模器件,搭建了工作在不同色散区的掺铒光纤激光器（EDFL）,分别实现了中心波长为1601.9 nm、脉冲宽度为660 fs的传统孤子以及中心波长为1593.5 nm、脉冲宽度为55.6 ps的耗散孤子输出。我们还将Gr/WS2异质结应用到C波段（1530-1565 nm）锁模光纤激光器中,通过优化激光腔结构,成功获得了中心波长为1563.3 nm、脉冲宽度为420 fs的传统孤子脉冲。同时,我们数值模拟了该飞秒脉冲光纤激光器,得到的锁模脉冲特性与实验结果一致。3.利用色散傅里叶变换（DFT）技术研究了单壁碳纳米管锁模光纤激光器中的各种孤子脉动行为,发现单周期脉动孤子的调制周期是腔内循环时间的几十倍甚至数百倍,其两个正交偏振分量的演化行为既可以是同步也可以是异步的。我们还首次观察到了双周期的脉动孤子,输出脉冲的脉动周期是两个不同调制周期的结合;通过改变泵浦功率和腔内偏振控制器（PC）,我们也在该光纤激光器中获得了不同类型的脉动矢量倍周期孤子（PDS）,包括单周期和双周期的PDS脉动,采用DFT技术测量了它们正交偏振模式的瞬态光谱。实验结果表明,脉动PDS的偏振态演化周期是两个或者三个不同调制周期的结合,并且与脉冲强度的调制周期一致。4.搭建了基于非线性偏振旋转的正色散锁模EDFL,通过调节泵浦功率和腔内PC,分别实现了静态耗散孤子以及脉动耗散孤子输出。结果显示,前者的瞬态光谱形状不随腔内传输圈数变化,而后者则具有明显的光谱呼吸特性。我们还观察到了一种独特的耗散孤子脉冲,其光谱顶部有一个较强的尖峰,通过DFT技术证实了这是锁模脉冲自身的光谱成分而不是连续光分量。我们进一步研究了静态耗散孤子和脉动耗散孤子的建立和湮灭动力学,详细讨论了它们各自光谱的实时演化特性。实验结果表明,这两种锁模脉冲的形成过程都包含了四个不同的阶段,即不稳定锁模、准调Q锁模、准稳定和稳定锁模运转状态。同时,瞬态光谱会随着脉冲能量的增加而不断展宽,并伴随有振荡条纹的产生。当泵浦功率被突然切断后,输出脉冲的光谱强度和宽度急剧下降,经过若干次腔内传输后锁模脉冲逐渐消失。