近几年来,由于云计算、物联网、互联网以及大数据等新时代网络业务的飞速发展,以及当代各行各业与它们深度融合,人们对光网络带宽的需求以指数幂的形式爆炸增长,对通信系统的容量有了更高要求。到目前为止,光通信系统主要以单模光纤为传输媒质,但是非线性效应很大程度上影响了单模光纤传输信号的质量,网络容量逐步逼近于香农理论极限(shannonlimit)。因此国内外研究人员纷纷研究各种提升网络容量相关技术,并且利用模式这一自由度进行扩容,于是利用少模光纤(FMF)作为传输媒质的模分复用(MDM)技术应运而生。少模光纤中具有有限个独立正交的模式,例如LPxy模式等,它可作为MDM通信系统独立信道进行复用传输,从而MDM通信系统的传输容量可以以倍数形式提升。但是在实际模分复用光纤通信系统中,模式耦合(MC)和差分模式群时延(MGDM)等损伤会严重劣化模分复用通信系统的传输性能,因此如何解决模式耦合及差分模式群时延等问题,实现接收信号的解复用用将成为问题的关键。围绕上述问题,到目前为止,大多数的研究仍为仿真实验阶段,MDM系统多为VPI搭建的仿真实验系统。本文立足于实际搭建的MDM通信实验系统,模式复用/解复用器选为Olkin Optics公司生产的具有模式选择性光子灯笼,调制方式采用OOK调制,根据系统实际接收信号完成信号处理解复用。首先分析了少模光纤中模式的正交性以及基于少模光纤模分复用通信系统的损伤机理,随后研究了少模光纤模分复用通信系统的信号均衡算法,在此基础上搭建了基于光子灯笼的少模光纤模分复用通信实验系统,并探究了 FD-LMS算法以及FD-ICA算法对少模光纤模分复用通信实验系统的解复用效果,实验取得了较好的结果。本文的具体工作如下:1.从光波导学角度,理论分析了少模光纤中的模式正交性。阐述了基于少模光纤模分复用通信系统的构成及工作原理,重点分析了少模光纤模分复用通信系统的两大损伤:模式耦合以及差分模式群时延。介绍了 MDM通信系统的构成以及信号处理相关技术。2.研究了基于FD-LMS信号处理算法的模分复用通信实验系统研究。首先,理论研究了 FD-LMS算法,明确了该算法对MDM通信系统损伤补偿的可行性。然后,搭建3×3 MDM通信实验系统,实验研究了该系统的在不同传输距离下的传输性能以及误码性能。最后对于传输质量较差的情况,实验结果验证了此算法对MDM通信实验系统中损伤的补偿性能。3.研究了基于FD-ICA信号处理算法的模分复用通信实验系统研究。首先,围绕FD-ICA算法进行理论分析。随后,搭建2×2 MDM通信实验系统,实验研究了该系统的在不用传输距离下的传输性能以及误码性能。最后实验结果验证了此算法对MDM通信实验系统中损伤的补偿性能。