OFDM技术由于具有频谱利用率高、能够有效对抗频率选择性衰落和时间弥散,并可提供高速率和高质量的通信服务,因此受到人们广泛地关注。同时,大量的研究表明OFDM对光纤通信当中色散的容忍度较高,所以将OFDM技术应用到光纤通信系统中可以构建出高速率、低成本、长距离的光传输网络。同时,光OFDM技术也是下一代超高速长距离光纤通信的潜在技术之一。信道估计技术又是光OFDM关键技术之一,准确的信道估计是确保光OFDM系统传输质量的关键。本文以光OFDM系统为模型,对光OFDM系统中变换域信道估计技术做了重点研究。本文首先介绍了OFDM系统的基本原理,关键技术及其优缺点。之后介绍了DDO-OFDM、CO-OFDM和OFDM-RoF三种光OFDM系统。并且利用仿真软件搭建了DDO-OFDM系统和OFDM-RoF系统两种仿真模型。本文的主要工作以及创新点包括以下几个方面：(1)针对LS信道估计算法忽略了噪声这一缺陷,使得估计出的信道响应的准确性难以得到保证,提出了基于小波去噪信道估计算法。将小波去噪技术应用到LS信道估计算法当中,解决了LS算法忽略噪声这一缺点,并分析了不同分解层数和不同小波函数对信道估计算法的影响,通过仿真验证了算法的有效性。(2)传统的基于DFT信道估计算法对原始不连续序列进行IDFT变换时会产生额外的高频信息。针对这一缺点,本文提出了改进的算法。通过在IDFT之前进行对称预处理,可以有效的消除IDFT变换所带来的高频信息,并且计算各条路径的能量变化率进而有效地选取有用路径,并对选取的路径长度加以限制,确保了算法的稳定性。最后,尝试将小波去噪算法与改进的DFT算法联合使用,在一定程度上处理了选取有用路径当中含有的噪声,使算法的性能进一步提升,改进的算法在DDO-OFDM系统和OFDM-RoF系统都进行了仿真分析,验证了改进算法的有效性。