云计算、大数据与物联网等新兴信息技术的飞速发展,对现有的通信网络容量提出了更高的要求。由于单模光纤存在香农极限,人们尝试寻求多种方法提高通信系统容量,其中模分复用技术近年来受到广泛的研究。模式数量的增加会导致光纤各个模式之间存在严重的色散效应,而少模光纤以其模式更加可控的优势,相比多模光纤更适合作为模分复用的载体。此外,光纤中的布里渊散射效应在传感领域具有重要应用。传统单模光纤仅支持一种模式,不利于多物理维度同时传感,少模光纤中多个不同模式具有不同布里渊散射特性,在多物理量同时监测方面具有更大潜力。因此,本文的研究内容是多层结构少模光纤设计和少模光纤中各阶模式布里渊散射特性的仿真分析。本文首先介绍了少模光纤在提升系统传输容量方面以及传感领域的应用,然后讨论了国内外对少模光纤中布里渊散射特性的相关研究进展。随后介绍了少模光纤的特性及主要性能指标,分析了布里渊散射的基本原理,介绍如何使用有限元法对少模光纤中光场、声场与声光耦合系数等进行仿真。其次,设计了一种基于多层耦合环芯的少模光纤。通过仿真分析,该结构支持六种传输模式并具有较大的有效折射率差,在1.55μm波长处所有模式间最小有效折射率差为1.56×10-3,模场面积从132μm2到298μm2。随后利用有限元法对该结构的布里渊增益谱以及模式联运的布里渊增益谱进行分析,结果表明基模具有双峰布里渊增益谱,LP02和LP12具有三峰布里渊增益谱,其余三种模式LP11、LP21和LP31的布里渊增益谱表现为单峰。该结构的多个传输模式对应不同的布里渊增益谱有利于解决传感中不同参量交叉敏感的问题。同时该结构相对于传统单模光纤有更大的有效模场面积,允许入纤功率更高,有利于在BOTDR系统中通过增大信号功率提升信噪比和传感距离。最后,设计了一种基于多层气孔排布的光子晶体少模光纤,利用环绕纤芯区域的多层不同几何排列的空气孔,控制光纤中支持的传输模式数量和有效模场面积。通过有限元法对该结构进行仿真,结果显示在1.55μm波长处,该光纤支持两种模式稳定传输,有效折射率差为8.7×10-2,模场面积分别为3.44μm2和5.14μm2,对应的非线性系数分别为35.46 w-1×km-1和23.73 w-1×km-1。随后对该结构两种模式对应的布里渊增益谱及联运谱进行分析,发现两种模式对应的布里渊增益谱都呈单峰,并且由于对应的布里渊频移相差较大,联运谱线宽发生展宽至455.92MHz。该结构两种模式所具有的较小的有效模场面积,有利于BOTDA系统中泵浦光与探测光之间发生受激布里渊散射。