光正交频分复用系统（OOFDM）融合了光纤通信和OFDM技术的双重优点，是目前高速光传输领域的研究热点之一。按接收端检测方式的不同可以将OOFDM分为直接检测光OFDM系统和相干检测光OFDM系统，其中，相干光OFDM系统，能更有效地抑制色度色散、偏振模色散,并且可以采用更高阶调制方案，能使用的均衡方法也比较多，是目前光通信领域一个主要的研究热点。当单信道速率达到40Gbit/s或100Gbit/s甚至更高时，高速相干光OFDM传输系统的信道影响是一个主要的限制因素，系统对色散和噪声等因素变的非常敏感，这就需要使用有效的信道估计方法，实时准确地跟踪信道的变化。信道估计的目的就是估计出信道的时域或频域响应，对接收到的数据进行校正与恢复。准确的信道估计是提高接收机接收质量的关键，也是提高相干光OFDM通信系统数据传输性能的主要手段。信道估计技术应用于相干光OFDM通信系统中，可以有效地解决高速率、长距离光传输系统中的信道对信号的影响，从而提高光通信系统的可靠性。相干光正交频分复用系统所能采用的信道估计一般可以分为基于导频的信道估计、基于判决的信道估计以及盲或半盲信道估计。其中，基于导频的信道估计所利用的数学原理比较成熟，性能良好，且算法比较简单，易于工程实现。因此，本论文对常见的最小二乘（LS）、最小均方误差（MMSE）、线性最小均方误差（LMMSE）等基于导频的信道估计算法进行了深入研究，针对LS算法抗噪能力差，现有的对其降噪的基于时域平均和频域平均的算法都存在一定的缺陷，以及MMSE算法复杂度太高等问题，我们对这些算法进行了改进。本论文主要围绕基于导频的相干光OFDM系统信道估计进行了研究，主要包括相干光OFDM系统理论模型及其关键技术、光纤信道特性、基于导频的信道估计算法及其改进、系统仿真平台的搭建及仿真实验。具体工作如下：（1）在研究OFDM技术基本原理及其关键技术等方面的基础上，从基本理论的公式推导入手，深入研究了光OFDM系统，尤其是相干光OFDM系统各组成部分的原理，并结合目前国内外研究现状，详细分析了相干光OFDM系统的优势、不足及潜在应用领域。（2）针对光纤信道的特点，对基于导频的信道估计算法进行了深入研究，并对传统的LS信道估计算法进行了改进，提出了适用于相干光OFDM系统的基于改进的LS算法的DFT信道估计算法，该算法可以使传统LS算法所没有考虑的噪声的影响有效地去除，信道估计的准确性大大提高，而其复杂度并没有变的很复杂。然而，尽管该算法可以很好的去除循环前缀以外的噪声，而在循环前缀之内的噪声仍然存在，因此，为了进一步提高系统的性能，我们在此基础上对其进行了进一步的改进和优化。（3）首次将无线通信中去噪效果最好的MMSE信道估计技术应用于相干光OFDM通信系统中，针对其复杂度较高的问题，我们在此基础上提出了一种改进的基于MMSE的低复杂度算法，其复杂度比传统的MMSE算法低两个数量级，而其性能几乎与MMSE算法相当。（4）首次利用仿真软件Optisystem和Matlab构建了带有信道估计模块的相干光OFDM系统仿真平台，首先验证了相干光OFDM系统的正确性，然后在此平台上对已有的LS算法、MMSE算法、基于时域平均降噪算法、基于频域平均的降噪算法、以及我们所提出的改进的信道估计算法进行了仿真、分析、验证。