光孤子由于其优异的物理特性，在光纤通信和信号处理等领域中有着巨大的应用前景而倍受关注。基于半导体可饱和吸收镜（SESAM）的被动锁模光纤激光器可以实现飞秒量级的光孤子脉冲输出，并具有自启动、结构简单紧凑、泵浦阈值低、稳定性好、可实现全光纤结构等优点。飞秒脉冲光源是近年来超快光学领域的研究热点之一，本文围绕SESAM锁模光纤激光器中的孤子特性开展了相关的理论和实验研究工作。首先，本文概述了SESAM的可饱和吸收特性，讨论了光纤中的色散和非线性效应对光脉冲传输的影响，分析了光纤中光孤子的形成机理，并在此基础上推导得到了描述超短光脉冲在普通单模光纤中传输的非线性薛定谔方程，引入了描述光脉冲在增益光纤中传输的Ginzburg-Landau方程以及描述光脉冲在双折射光纤中传输的耦合非线性薛定谔方程。其次，搭建了基于SESAM的被动锁模掺铒光纤激光器，获得了中心波长为1561nm，脉冲宽度约为750fs，重复频率为9.6MHz的孤子脉冲输出。实验中，通过在激光腔的输出端接入检偏器，测试了激光器输出光孤子的两个正交偏振分量的光学特性。在不同的泵浦功率下，通过调节腔内偏振控制器，分别获得了偏振锁定矢量孤子和群速锁定矢量孤子。此外，实验中我们还观察到了矢量孤子的周期加倍和谐波锁模现象，并且实现了双波长锁模脉冲输出和多波长连续光输出。第三，基于耦合Ginzburg-Landau方程建立了SESAM锁模光纤激光器的仿真模型，利用“脉冲跟踪”法数值模拟了工作在不同色散区的激光器输出的矢量孤子特性。通过改变腔内双折射，数值仿真得到了负色散腔中形成的偏振锁定矢量孤子和群速锁定矢量孤子，进一步验证了实验结果；通过模拟矢量孤子脉冲在激光腔内的偏振态演化过程，得到了偏振旋转锁定矢量孤子。通过在激光腔内加入色散补偿光纤调节腔内的净色散，仿真获得了正色散腔中形成的光谱具有陡峭边沿的耗散孤子，并数值分析了耗散孤子及其两个正交偏振分量的输出特性。