随着云计算、高清视频、虚拟现实等大数据量互联网业务的兴起和普及,承载信息的光纤通信系统面临着巨大的容量增长压力。在信号空间维度上对信息复用的空分复用技术,能够大幅提升光纤通信系统容量。基于多芯光纤的空分复用光传输系统不仅一次次打破单模光纤通信系统传输容量的实验记录,并且在各种应用场景如接入、移动前传、长途、数据中心等展现出大容量,高灵活度的特点,是最有希望实现光纤通信系统演进升级的技术选择之一。尽管基于多芯光纤的长距离传输实验进展很快,但多芯光纤在短距传输,尤其是接入网系统中的应用仍然缺少研究。另外,在基础理论方面,关于多芯光纤串扰波长相关性的研究,以及非线性传输中串扰机理,仍存在理论空白。本论文在基础理论方面,针对波分-空分复用系统芯间串扰在长波长处更严重的问题,研究了多芯光纤芯间串扰波长相关性的机理,探讨了抑制芯间串扰波长敏感性的方法;针对多芯光纤长距离非线性传输问题,建立了多芯光纤非线性传输模型并以此模型为基础探讨了在传输中串扰对信号的损伤机理。在关键技术方面,本论文开展了多芯光纤的设计、拉制以及测试工作,攻克了复用/解复用器的技术瓶颈,制备了高质量的复用/解复用器。在空分复用光传输系统方面,本论文提出并搭建了超大容量波分-空分光传输系统平台,演示了基于多芯光纤的大容量波分-空分接入网,验证了多芯光纤在移动前传系统中的应用,主要的研究成果如下:(1)基于模式耦合理论和功率耦合理论,阐述了多芯光纤芯间串扰的基本原理,研究了多芯光纤芯间串扰的波长相关性,提出了通过减小芯间距来抑制芯间串扰的波长敏感性的方法。实验证明芯间距为35μm的多芯光纤要比42μm的多芯光纤芯间串扰的波长敏感性下降0.05 dB/nm。(2)基于芯间串扰的统计特征,建立了多芯光纤非线性传输模型,并借助此模型在仿真验证经过多芯光纤传输后,芯间串扰对信号的损伤可视为一种加性高斯白噪声。将多芯光纤设计与多芯光纤非线性传输性能紧密联系起来,通过优化多芯光纤结构,既增加了多芯光纤有效面积,降低非线性噪声,又避免了增加串扰,在两者之间形成一种平衡,得到理想的系统传输性能。(3)开展了多芯光纤的结构设计工作,研究了结构参数对光学性能的影响。采用COMSOL作为光纤设计的方法之外,根据推导出的芯间串扰解析解,采用matlab数值计算的方法对影响芯间串扰的结构参数进行优化,显现出计算量小的优点。制备了纤芯衰减小于0.25 dB/km,芯间串扰低于-40 dB/100km的七芯光纤。(4)采用化学腐蚀光纤束并结合光纤冷加工接续的方法,在自由空间将排列好的光纤束与多芯光纤进行对准,制备了低串扰(<-50dB)、低插入损耗(<1dB)、高回波损耗(>50dB)的多芯光纤复用/解复用器,性能达到世界领先水平。以此为基础,搭建并测试了基于多芯光纤的超大容量波分-空分光传输系统,系统容量达到33.6 Tb/s,频谱效率达到44.8 bit/s/Hz,验证了多芯光纤及关键器件的稳定性。(5)演示了基于多芯光纤的波分-空分大容量接入网系统,研究了多芯光纤在下一代接入网扩容以及增强接入网系统灵活性等方面的潜力。利用多芯光纤的空间并行信道,实现大容量(300 Gb/s)、多用户(60个ONU)、低成本的单纤双向传输,并兼容移动回传业务。(6)研究了多芯光纤在移动前传系统中的应用,演示了 2×2 MIMO的无线信号在20 km多芯光纤中双向传输的移动前传系统。在该系统中研究了系统对芯间串扰的容忍度,并基于此研究结果针对5G中的关键技术massive MIMO设计了 64芯光纤,芯间串扰低于-10dB/20km,显示了多芯光纤在5G中的潜力。基于多芯光纤的空分复用技术作为一种在物理层复用维度上扩充系统容量的方法,充分体现出光纤通信系统典型的人工信道特征。研究信道损伤机理,人为地调控并优化信道质量,挖掘光纤信道的扩容潜力是空分复用技术的关键科学问题。因此本论文围绕这些科学问题在多芯光纤的设计与结构优化、芯间串扰对信号的损伤机理、多芯光纤的非线性传输建模等方面开展了大量基础理论工作。在攻克了光纤与复用/解复用器件制备的技术瓶颈之后,本论文实现了超大容量波分-空分光传输系统,提出并演示了基于多芯光纤的大容量接入网以及移动前传系统,对光纤信道扩容的同时,展现出空分复用技术在增强信道灵活性方面的巨大优势和潜力。