自从高锟先生提出光纤通信的基础理论以来,围绕光纤通信容量提升的光纤通信技术一直是国内外研究热点。近年来,随着5G、大数据、云计算、云存储等新技术的兴起,数字化进程的不断加快,对作为业务承载物理层的光纤通信系统容量提出了更高需求。目前,基于单模光纤的传输容量已经达到了香农理论极限,而空分复用技术通过多纤芯复用或正交模式复用的方法,突破了传统意义上单模光纤的香农极限,能够实现单根光纤中传输容量的极大提升。本文主要基于光纤波导理论,对空分复用系统中的多芯少模光纤结构设计进行研究,理论分析了多芯少模光纤的性能参数,提出了一种基于异质双包层沟槽辅助结构的多芯少模光纤设计方法,设计了一种7芯10模光纤,设计了一种新型双耦合环辅助的6-LP少模光纤结构,提升了光纤传输容量。主要的研究工作如下:1.提出了一种异质双包层沟槽辅助结构的多芯少模光纤设计方法。该方法利用有限元法建立了异质双包层沟槽辅助结构光纤的理论模型,仿真分析了异质双包层光纤结构参数对光纤性能的影响,包括内包层高度与宽度对光纤有效模场面积（Aeff）、弯曲损耗（BL）、差分模式群时延（DMD）、模式色散等性能的影响。研究结果表明,与传统阶跃光纤各光学性能相比,该方案能够提升有效模场面积,进而降低非线性效应,并在抗弯曲特性、减小色散方面具有显著优势。2.基于异质双包层沟槽辅助结构,设计了一种包层直径为170μm的三异构7芯10模光纤,并仿真分析了不同结构参数对芯间串扰（XT）与弯曲损耗等因素的影响。仿真结果表明,所设计的光纤在C+L波段内串扰小于-60dB/km、有效模场面积大于140 μm2、模式色散小于18.9 ps/（km*nm）,相对多重性因子达到了 49。3.为了降低少模光纤中模间串扰,提出了一种新型双耦合环辅助的少模光纤结构设计。首先用COMSOL仿真软件对光纤结构进行建模并分析了影响模式间耦合的主要因素,然后对双耦合环结构的5个参数进行仿真分析。结果表明,6-LP少模光纤中,LP21模和LP02模的有效模式折射率差最接近,其差值是影响串扰的主要因素,该结构中LP21和LP02最小模间折射率差为1.5×10-3,是同等条件下传统阶跃结构最小折射率差的1.88倍。