涡旋光束是一类具有螺旋形波前位相的光束,具有e^ilφ（l为拓扑荷,φ为方向角）的位相因子。涡旋光束存在位相奇点,中心强度为零,光强通常呈环形分布。1992年,Allen等人证明了涡旋光束中的每个光子携带l?的轨道角动量,因此涡旋光束也被称为轨道角动量光束。利用以上这些特征,涡旋光束已经在光通信、光学微操控、超分辨成像、高精度位移测量、量子纠缠以及强场物理等领域展示了非凡的应用潜力。目前涡旋光束产生主要通过腔外空间相位调制实现,即利用空间位相元件将激光器输出的高斯光束转变为涡旋光束,如利用螺旋相位板、叉形光栅、空间光调制器、q板以及超表面等。基于腔外调制的方法虽然简单易行,但在某些方面存在明显的局限性。由于位相元件加工不可避免的瑕疵以及位相非连续性,产生的涡旋光本质上不具备理想的螺旋形波前位相,随传输会失去涡旋光特征甚至完全塌陷。除此之外,位相元件只能针对特定波长进行设计,原则上不适用于产生宽带的飞秒涡旋光束,大多用于窄带的连续波涡旋光产生。高阶横模光束（如拉盖尔高斯光束、厄米高斯光束）是激光腔的本征模,因此,可在激光腔内直接产生拉盖尔高斯模式的涡旋光束,或首先在激光腔内产生厄米高斯光束并利用柱透镜模式转换器将厄米高斯光束完美地转换为涡旋光束。由于高阶横模是激光腔的本征模,其产生的涡旋光具有理想的螺旋形位相,因此涡旋光束传输稳定且其空间相位不受带宽影响,规避了腔外位相元件调制方法的局限性。本学位论文致力于发展涡旋光腔内产生技术,并且在涡旋光产生的基础上,开展了涡旋光在光通信方面的应用研究。论文的主要研究工作如下:第一,发明了高阶横模飞秒锁模激光器产生超干净飞秒涡旋光的技术。我们提出了非共线泵浦的方法在腔内产生可控的高阶横模光束（厄米高斯光束）,将该方法应用于锁模激光器中,首次实现了高阶横模的飞秒锁模工作,在激光腔内直接产生了飞秒厄米高斯光束。利用柱透镜模式转换器,我们将飞秒厄米高斯光束转换成了飞秒涡旋光束。通过测量产生的飞秒涡旋光束的空间强度对比度,其环上-中心的空间强度对比度达到36dB,接近了理想飞秒涡旋光束空间强度对比度的理论极限,表明从激光器中产生了超干净的飞秒涡旋。该工作为飞秒涡旋光啁啾脉冲放大以及相关应用领域走出了重要一步。第二,发展了基于激光腔镜表面刻蚀的涡旋光腔内产生技术。我们提出在激光腔镜表面刻蚀出一系列大小不同的圆形图案形成空间损耗调制,从而选择特定拓扑荷的涡旋光束在腔内直接振荡并输出。我们通过数值模拟和分析,获得了圆形图案半径和涡旋光拓扑荷之间的定量关系,为腔内涡旋光产生提供了设计准则。实验上,我们利用激光精密刻蚀技术在输出耦合镜表面刻蚀出一系列大小不同的圆形图案,从激光腔内直接产生了拓扑荷可控的涡旋光束,拓扑荷数最高达到288阶。目前的腔内产生技术所产生的涡旋光的拓扑荷数都比较低（拓扑荷数小于10阶）,而利用激光腔镜表面刻蚀,我们首次实现了高拓扑荷涡光束在腔内直接产生。通过研究产生的涡旋光束的时域特性,我们发现该涡旋激光器可实现皮秒自锁模工作,所产生的皮秒涡旋光束具有GHz水平的脉冲重复频率。发展的皮秒涡旋激光器在光涡旋通信时分复用方面具有重要应用前景。第三,进一步发展了基于腔镜表面刻蚀的腔内多涡旋产生技术。我们通过在输出耦合镜表面刻蚀出同心环结构以形成多个激光“环形通道”,在腔内同时产生了多个不同拓扑荷的涡旋光束,即多涡旋光束。在多涡旋光束产生的基础上,我们研究了产生的多涡旋光束的时域特性,并发现不同拓扑荷的涡旋光束可以同时实现高重频皮秒自锁模运转。发展的皮秒多涡旋激光器在光涡旋通信时分-空分复用方面具有重要应用前景。第四,开展了多涡旋光束在光通信方面的应用研究。我们提出了对多涡旋光束进行空间编码的新概念,并在实验上演示了对于多涡旋光束的空间编码以及自由空间信息传输。同时,利用多涡旋激光器输出的高重频皮秒涡旋激光,我们演示了对于单路皮秒涡旋光束的时分复用以及皮秒多涡旋光束的时分-空分复用。腔内产生的多涡旋皮秒激光在时分-空分复用光通信方面展示了巨大的应用潜力。总之,在本学位论文中我们系统研究和阐述了涡旋光腔内产生技术,并且在涡旋光产生的基础上开展了涡旋光在光通信方面的应用研究。本学位论文的研究工作为腔内涡旋光产生技术奠定了基础,并大幅拓展了涡旋光在光通信、超分辨空间测量、高角动量量子纠缠等领域的应用前景。