在过去二十年里，单模光纤传输容量增长了近三个数量级，已经接近其容量极限。光纤的非线性效应是限制光纤传输容量的重要因素之一，采用大模场光纤是减少光纤非线性效应最直接有效的方法。使用选择性模式激励技术，可以使少模光纤以单模方式传输，在长距离传输中能够有效降低非线性效应。　　在光纤传输系统中，色散特性是决定传输性能的一个重要因素。本文首先研究了少模大模场光纤的色散特性。采用有限元法分析了LP01模和LP11模的色散曲线与光纤结构参数的关系，比较了大模场光纤中这两种模式的色散特性。结果表明，少模光纤的LP01模无法实现色散平坦传输，而通过光纤结构参数调节，其LP11模能够实现色散平坦传输，且具有大模场和低弯曲损耗传输的特点。　　空分复用技术被认为是打破单模光纤传输极限最具前景的方法之一。空分复用技术是指分割空间构成不同信道的一种复用方法。空分复用技术主要包括基于多模光纤或少模光纤的模分复用技术和基于多芯光纤的复用技术。空分复用系统中需将传输信号转换为高阶模，如何实现高效、宽带的模式转换已成为一个研究热点。本文还提出了一种新型全光纤LP02模宽带模式转换器。采用双芯光纤的设计，基于模式匹配原理，并利用LP11模作为中间过渡模式，即先将LP01模转换为LP11模，再将LP11模转换为LP02模，实现宽带模式转换。采用光束传播法和模式耦合理论分析了光纤参数对有效折射率的影响，选择了合适的光纤参数实现模式匹配，分析了纤芯距离等参数对模式转换效率和带宽的影响，并对此结构进行优化设计。比较了同样光纤参数下直接将LP01模转换为LP02模时的带宽情况。数值模拟结果表明，采用我们提出的方法能够有效提高模式转换带宽，当要求转换效率大于80％时，这种模式转换器带宽能够达到121nm。