涡旋光束指的是携带有螺旋相位和非零角动量的局域非线性激励,利用其轨道角动量可以操纵微观粒子,还可以作为信息进行量子编码和信息传输等。在非线性光学中,涡旋光束在自散焦介质中能自陷形成涡旋孤子,但在自聚焦介质中却由于方位角调制不稳定性而演化成沿着切线方向分离的基态孤子。最近,人们发现涡旋光束在自聚焦光子晶格中可以形成稳定传输的涡旋孤子,这拓展了涡旋光束的研究。另外,光诱导光子晶格是一种周期光学系统,其对光束传输的控制在全光交换、光开关等方面具有潜在的应用价值。本文主要工作是研究涡旋光束在光诱导四方晶格和贝塞尔晶格中的传播特性,研究光子晶格对光束传输的影响以及形成涡旋孤子的条件。由麦克斯韦方程组和光折变效应的机理推导出描述光束传输的非线性薛定谔方程并运用优化的交替隐式差分波传输法对方程进行数值求解。主要内容及成果如下：1.研究涡旋光束在自聚焦四方光子晶格中的传输特性。研究发现,不存在晶格时涡旋光束会分裂成基态孤子。存在晶格后,非格点激发和格点激发的一阶涡旋光束在合适的条件下能形成稳定传输的离散涡旋孤子,而二阶涡旋光束在传输过程中则会出现拓扑翻转现象,生成准稳态的涡旋孤子。单格点入射时,当输入的涡旋光束强度过低会有能量沿着轴向耦合,但增加输入光强并在合适的条件下就可以形成稳定传输的涡旋孤子。2.研究了涡旋光束在自散焦四方晶格中的传输特性。研究发现,格点激发的一阶涡旋光束在合适的条件下可以形成稳定传输的离散涡旋孤子,但四瓣聚焦在格点之间。二阶涡旋光束传输过程中也存在拓扑翻转的现象。3.研究了一阶涡旋光束在贝塞尔晶格中传输的情况。由于贝塞尔晶格的径向对称性,当输入的涡旋光束恰好落在晶格的第一环道内并且晶格深度和外加电场强度都合适时可以形成稳定传输的环状涡旋孤子。