调制格式识别方法(Modulation Format Identification，MFI)在军用和民用通信领域中都起到了至关重要的作用，尤其是在非合作通信领域有着广泛的应用背景。随着新的终端设备的大量涌现以及大数据、云会议、高清视频应用的快速发展，大容量的高速传输成为光通信系统中的重要目标。为应对这一挑战，支持多种调制格式、多种调制速率的新一代动态光网络应运而生。下一代动态光网络的出现，使MFI在光通信领域中的广泛应用成为可能，吸引了许多学者的深入研究。本文针对光通信系统中常用的、具有发展前景的多种调制格式的识别方法进行了研究，并提出了基于星座图特征的快速调制格式识别方法，主要开展工作如下：
　　1、对不同调制格式的时频域特征、星座图特征进行研究，提出一种基于聚类和高斯模型分析的调制格式识别算法，在强度调制/直接检测正交频分复用光纤系统中进行了实验验证。该方法可识别多进制正交幅度调制(Multiple Quadrature Amplitude Modulation，MQAM)的调制阶数，复杂度低，在一定光信噪比(Optical Signal-to-Noise Ratio，OSNR)下，识别准确率可达到100%。
　　2、研究了自适应可见光正交频分复用系统，提出了基于信号方差快速识别二进制相移键控的方法，并在OFDM-VLC系统中进行了实验验证。实验结果证明，当光信噪比分别高于4dB，4dB，11dB，13dB和18dB时，用2000个符号识别二进制相移键控(Binary Phase Shift Keying，BPSK)、正交相移键控(Quadrature Phase Shift Keying，QPSK)、16QAM、32QAM和64QAM的识别准确率可达100%，比起基于聚类的识别方法，识别准确率达到100%所需的光信噪比更低，且该方法复杂度低，容易实现。