当前信息技术的快速发展使得光通信网络数据量剧增,标准单模光纤的传输容量已接近非线性香农极限。为解决通信容量危机,基于空分复用的多芯光纤、少模光纤和少模多芯光纤充分利用空间维度,有望解决单模光纤传输容限问题,其中少模多芯光纤利用纤芯和模式两个维度扩大空间信道数,在通信容量扩展方面极具潜力。多个纤芯的芯间串扰以及纤芯内的模式串扰是衡量少模多芯光纤传输性能的重要指标,而光纤的抗弯曲能力以及模式的有效模场面积则是保证光纤实用性的关键参数。针对上述特性,本论文利用有限元法和功率耦合理论对少模多芯光纤进行理论建模和计算,优化光纤结构,实现兼顾低串扰、大有效模场面积以及弯曲不敏感的少模多芯光纤设计。主要研究工作如下:（1）利用功率耦合理论研究了少模多芯光纤的模式与串扰特性。研究表明,当相邻纤芯几何尺寸与折射率分布不同,即为异质结构时,不同纤芯中的同一模式组传播常数不同,能够有效抑制芯间串扰,且在相位失配区域芯间串扰与弯曲半径无关。（2）提出了一种异质环形纤芯3-LP模12芯光纤。光纤中纤芯呈方点阵型排布且相邻纤芯为异质环形结构,其几何参数和折射率分布不同,每个纤芯支持三个模式传输。由于异质纤芯的模式有效折射率差异较大,该光纤具有低串扰弯曲不敏感的性能优势。此外,环形纤芯的中心折射率凹陷可对模场进行调控,且能够增大有效模场面积和纤芯中模式有效折射率差,抑制模式串扰。结果表明,所设计的光纤包层直径为213.8μm,相对纤芯复用因子为46.2,当芯间距为36μm时,相邻纤芯LP01,LP11,LP21模的串扰分别小于-86,-74,-48d B/100km,纤芯内模式有效折射率差大于1×10-3,模式隔离度高。（3）为进一步提高少模多芯光纤的串扰抑制能力和空间信道数,提出了一种沟槽辅助型异质环形纤芯3-LP模24芯光纤,结合异质结构和沟槽辅助的方法进一步降低芯间串扰。结果表明,所设计的光纤包层直径为218.97μm,相对纤芯复用因子为86.6,当芯间距为30μm时,相邻纤芯LP01,LP11,LP21模的串扰分别小于-80,-73,-60d B/100km。与无沟槽辅助的纤芯结构相比,在实现良好低串扰性能的同时实现了更小的芯间距和更高的纤芯复用度。