模分复用是高速光纤通信系统发展的一个新的研究方向,通过模分复用可以大大提高光纤通信系统的容量。模式激励和模式转换是解决模分复用的关键基础问题,高效率、低复杂度、高模式分辨率地激励出任意的高阶模式和实现不同模式的高效率、高速度的转换问题是模分复用光纤通信系统得以应用的前提。目前模式激励和模式转换方法的研究方向主要有：1)长周期光纤光栅、平面光波导、“光子灯笼”、光纤型耦合器等波导型结构法；2)相位屏(Phase Plate)、空间光调制器(SLM)、点阵耦合(Spot-Based)等自由空间光路方法。在上述方法中,由于基于光纤波导型结构的方法对实验的工艺要求较高,而基于空间光调制器等自由空间光路的方法可以利用较为简单的工艺和器件来实现高效率、低复杂度、高模式分辨率的模式激励和模式转换。因此,本论文的研究方向是基于相位共轭原理的任意模式激励和基于空间光调制器的任意模式转换方法。论文首先介绍了模分复用的研究背景和国内外研究现状。然后介绍了基于自由空间光路实现模分复用系统的模式控制的基础理论,为后续模式激励和模式转换提供了理论依据。论文结合了谐振腔的结构与光场分布模式,提出了基于相位共轭原理的方形镜平行平面腔的结构,并利用空间光调制器实现直接模式激励,给出了仿真结果。论文提出了采用4f系统的基于空间相位调制的最优模场匹配的任意模式转换,并给出了基于最优光阑孔径的基模转换高阶模的实验结果。最后提出了基于压缩感知的模拟退火算法的精确模式转换方法,并给出了仿真结果。本文的主要研究工作和创新点如下：1、基于相位共轭的任意模式激励方法研究激光谐振腔是激励激光模式的有效方式之一。在模式的稳定性、时间相干性、空间相干性和模式畸变程度等方面,用谐振腔直接产生激光模式的方法远优于通过外光场处理得到的激光模式方法。本论文通过分析模式光场分布特征,利用空间光调制器、Fox-Li数值迭代法和谐振腔结构,提出了基于相位共轭原理的外腔谐振的方形镜平行平面腔的任意模式激励方案,并通过matlab实现了仿真验证,证明此方案的理论可行性,能够通过特殊设计空间光调制器的端面,使得目标模式成为谐振腔的本征模,从而实现任意模式激励。2、基于空间相位调制的任意模式转换研究论文首先从空间域、空间频率域和变换平面空间域分析了待转换模式和目标模式的模场分布特征,进而从理论上建立了基于空间频谱滤波的任意模式问转换的传递函数模型,最终利用相位型空间光调制器构建了模式转换光学系统。本论文提出了通过变换平面空间域的模场束腰半径自适应不同模式模场半径,得到变换平面空间域模场分布匹配原理,提出了变换平面空间域的模场束腰半径与不同模式的模场分布间的匹配条件及待转换模式和目标模式的模场半径匹配解析方法。仿真结果证明,基于模场半径匹配的空间频谱滤波方法可实现不同模式间的转换,模式转换归一化相关系数较高。论文搭建了基于最优光阑孔径的基模转换高阶模实验平台,通过实验实现了基模转换为LP11a、LP11b、LP02、LP03、LP21a、LP21b、LP12a、LP12b等模式。3、模式的特征分析和精确模式转换控制算法研究论文利用压缩感知和模拟退火算法,提出了基于模式的特征分析的精确模式转换控制算法。通过对比及修正图像处理的各种算法,在完成模拟退火算法的基础上,尝试有效地将光场分布稀疏化,利用基于压缩感知的模拟退火算法调整空间光调制器上的相位分布,使其在图像传感器(CCD)上看到的实际模式图更加接近仿真得到的标准模式分布图。应用基于压缩感知的模拟退火算法后,不仅计算量大大降低,而且可以实现比较精确的模式转换控制。