回音壁模（WGM）光学微腔是一种可以将光子限制于其内壁不断发生全反射而产生WGM的环状结构微腔。得益于其具有较高的品质因子（Q）和较低的模式体积（V）,能使微腔中光与物质相互作用得到显著增强,从而使其在腔量子动力学、低阈值/窄线宽激光器、高灵敏度光学检测、非线性光学等研究领域有广泛应用。然而,传统WGM微腔光学研究依赖于非常稳定的可调谐单频激光器作为泵浦源,这成为限制WGM微腔光学研究的一大难题。本论文利用高Q值WGM微腔,设计了 WGM微腔反馈的光纤激光器实验方案,进行了单频/窄线宽激光及其非线性光学特性（包括SBS、SRS和克尔频率梳）实验研究,很好地将WGM微腔光学研究拓展到了可见光和中红外光谱区域。主要的研究工作可以概括为如下几个方面:1.WGM微腔反馈的可见光光纤激光器及其非线性光学特性研究采用光纤端面镀膜镜/光纤布拉格光栅（FBG）作为输入镜、Pr:ZBLAN光纤作为增益介质和石英微球腔作为反馈输出镜,设计了 WGM微腔反馈的可见光光纤激光器实验方案。高Q石英微球腔不仅能产生由瑞利散射引起的背向反射而在F-P光纤腔中形成的～635 nm红光激光振荡,而且能为WGM微腔自身提供非线性增益,从而激发受激拉曼散射（SRS）和受激布里渊散射（SBS）。在光纤端面镀膜镜作为输入镜的实验中,通过改变～444 nm泵浦光功率、优化F-P腔内的光纤偏振态以及锥形光纤和石英微球腔的耦合状态,获得了波长分别为0.65、0.67、0.69、0.71、0.73和0.76 μm的六阶级联拉曼斯托克斯激光。另外,在FBG作为输入镜的实验中,同样通过改变实验条件,激发635.5 nm红光激光产生635.54 nm布里渊激光。这是首次结合Pr:ZBLAN光纤实现可见光波段WGM微腔反馈的光纤激光器,该实验方案可以有效地将WGM微腔的激光波长拓展到可见光波段,并在水下通信、生物医学诊断、微波产生和光谱学中有重要的应用。2.WGM微腔反馈的近红外单频光纤激光器及其非线性光学特性研究将高Q石英微球腔和掺镱石英光纤结合,设计了 WGM微腔反馈的1.06 μm单频光纤激光器,并激发了包括SBS、SRS以及克尔频率梳在内的非线性光学效应。高Q石英微球腔在实验中不仅可以作为1.06 μm波长附近的窄带反射镜,而且可作为非线性光学效应的发生器。借助石英微球腔和FBG的模式选择,并使用974 nm激光二极管泵浦掺镱增益光纤,获得了线宽窄至281 kHz的1.06μm单频激光。随后,通过优化光纤偏振态、调节锥形光纤和石英微球腔的耦合位置及泵浦光功率,获得了 1.06 μm的四阶级联布里渊斯托克斯激光以及1.12、1.18、1.23和1.29 μm的四阶级联拉曼斯托克斯激光,而且还产生了中心波长为～1.06μm、带宽约为～31 nm的克尔频率梳,以及中心波长分别为～1.10 μm、～1.18 μm的一阶、二阶拉曼增益辅助的克尔频率梳。另外,将石英微球腔和掺铒石英光纤结合,设计了 WGM微腔反馈的1.53 μm单频被动调Q光纤激光器。借助高Q值WGM微腔的窄带反射作用和碳纳米管在产生调Q脉冲激光上良好的可饱和吸收作用,获得了线宽为332 kHz单频被动调Q脉冲激光。3.WGM微腔反馈的2 μm窄线宽光纤激光器及其非线性光学特性研究中红外激光器具有很强的振动指纹,因此在生物分子传感中具有广泛的应用。然而,在常规石英材料中实现中红外激光是一个巨大的挑战。本文将高Q值石英微球腔和掺铥石英光纤结合,设计了 WGM微腔反馈的2 μm窄线宽光纤激光器。首先通过使用高Q值石英微球腔作为模式选择镜,并将掺铥石英光纤作为增益介质,实现了线宽为～9 MHz的～2 μm窄线宽激光输出。然后,由于石英微球腔内自身强度增强,产生了多种三阶非线性光学效应,包括受激斯托克斯和反斯托克斯拉曼散射以及克尔频率梳。通过受激斯托克斯和反斯托克斯拉曼散射分别将～2 μm窄线宽激光偏移至～2.75 μm和～1.56 μm,并进一步借助级联四波混频获得了从近红外（1600 nm）扩展到中红外（＞2400 nm）的克尔频率梳。该研究成果提供了一种简单有效的途径来实现基于WGM微腔光学非线性增强的全石英中红外光纤激光器。