相干光正交频分复用(CO-OFDM)技术结合了相干检测和正交频分复用(OFDM)两种技术优点,它的频谱利用率高,能有效地对抗光信道中的偏振模色散(PMD)干扰,对非线性也有很好的容忍性;而且可以很好地兼容现有的光网络基础设施,扩容方便。所以它是实现下一代超高速、大容量、长距离传输系统的潜在技术之一。CO-OFDM对激光器线宽引起的相位噪声十分敏感。如果不能有效地抑制相位噪声,就会造成相干解调不理想;同时,也会导致OFDM符号间干扰(ISI)和子载波间的干扰(ICI)。目前已有相位噪声抑制算法的研究基本是针对窄线宽激光器提出的,线宽越窄需要的成本就越高;一些对大线宽性能较好的算法都是基于矩阵计算实现的,其计算复杂度较高,不适合未来实时CO-OFDM系统。因此,寻找一种性能优异、复杂度低的相位抑制算法对于提高CO-OFDM系统的线宽容忍度,降低CO-OFDM系统的成本是很有意义的。本文围绕CO-OFDM系统中如何抑制激光器相位噪声展开研究,重点针对相位噪声对星座图的影响以及通过星座图优化抑制相位噪声进行了深入地研究。取得的主要研究成果如下:1.研究了基于单模光纤(SSMF)的CO-OFDM传输系统。通过仿真确定了一种适合CO-OFDM系统的OFDM帧结构,并利用Optisystem和MATLAB仿真软件搭建了 16-QAM-CO-OFDM 系统。2.重点研究了激光器线宽引起的相位噪声以及它对OFDM的影响,在CO-OFDM中对比了三种基本的相位噪声抑制算法,通过仿真详细地分析了它们的优缺点。3.针对CO-OFDM已有的相位噪声抑制算法缺点,提出了一种星座图优化抑制CO-OFDM系统中相位噪声的算法。通过分析相位噪声对星座图的影响,得出了该算法的基本原理;并提出了两种用于抑制CO-OFDM中相位噪声的新型16-QAM。仿真结果表明两种新型的16-QAM可以提高CO-OFDM系统的线宽容忍上限。在一定程度上,验证了星座图优化抑制CO-OFDM系统相位噪声的可行性。