随着社会经济的发展,光纤通信已经逐渐成为主要通信方式。然而随着光通信系统传输速率和传输距离的不断增加,光纤损耗、色散、非线性效应等也日益成为影响系统通信质量的重要因素。为了克服这些不利因素,很多技术被引入到光通信中,而新型光调制技术是有效提升系统性能的关键技术之一。目前人们对于DPSK、QPSK等已进行了广泛的研究,而每符号携带四比特的16QAM作为一种幅度相位联合调制格式,既简化了多进制相位调制系统的复杂结构,又提高了频谱效率,因此获得了越来越多的关注。本文针对16QAM在光纤通信系统中的传输进行了研究,主要完成的工作有以下几点：1.在对现有的16QAM生成方案进行分析总结的基础上,提出了一种基于De-MZM的星形16QAM光信号的生成方案。从理论上分析了这种方案的优势所在,并根据所提出的方案的结构,推导出了适合这种方案的差分编码公式。然后利用Matlab进行了仿真验证,说明了该方案的可行性。2.对直接检测接收技术进行了分析,重点说明了分别基于DLI和2×490°混合器的两种直接检测接收机的结构原理,并详细介绍了两种关键的光器件的结构原理和作用,阐述了采用两种不同的判决方式差分检测过程,并说明了16QAM信号的数据恢复过程。3.对40Gb/s16QAM信号在光纤通信系统中的传输性能进行了仿真分析。首先对16QAM信号在背靠背情况下的传输性能进行了仿真总结,然后重点分析了16QAM信号在光纤中的传输性能,包括色散容忍度以及非线性容忍度等,并将16QAM信号的传输性能与其他调制格式的传输性能进行对比分析。仿真结果表明16QAM信号在抗色散方面的性能较好,但是非线性容忍度较差。