随着人工智能、物联网、大数据等网络技术的兴起,光纤通信网络的灵活性逐渐受到重视。灵活光网络通过动态的物理资源调度实现低成本、高效率、大容量的通信。正交频分复用/偏移正交幅度调制（Orthogonal Frequency Division Multiplexing/Offset Quadrature Amplitude Modulation,OFDM/OQAM）作为一种多载波调制方案,具备调度子载波资源的潜能,有望用于灵活光网络。对于相干OFDM/OQAM系统,激光器相位噪声会严重干扰系统性能。因此,相位噪声估计是信号处理的重要部分。本文主要探讨在灵活光网络背景下,相干OFDM/OQAM系统中相位噪声估计方案。首先,本文分析了OFDM/OQAM系统基本原理和相干光通信基本原理,推导了相干OFDM/OQAM系统中光纤信道、相位噪声和频偏联合影响的信号损伤模型。而后,在分析了多种典型相位噪声方案的基础上,给出了两种改进方案。第一,基于修正版拓展卡尔曼滤波器,本文给出了一种改进的盲估计方案—自适应卡尔曼滤波器。自适应卡尔曼滤波器的特点在于,其复杂度随激光器线宽变化,因而能保持高线宽容忍度的同时维持较低的复杂度。第二,基于盲最大后验准则方案,给出了一种改进的导频辅助方案—导频最大后验准则估计方案。导频最大后验准则方案的优点在于复杂度低,并且其导频结构简单,频谱效率损失小。最后,搭建了基于Matlab和VPI平台的20Gbaud速率16 OQAM的CO-OFDM/OQAM仿真系统,测试多种方案的性能。针对灵活光网络的需求,论文测试了子载波分配、传输距离、激光器线宽、残余载波频偏等可变因素对方案性能的影响,并据此比较方案的灵活性、稳定性。计算了方案的算子消耗量,测试了方案的实施时间,并据此比较方案的复杂度。结果表明,自适应卡尔曼滤波器能根据激光器线宽调节复杂度,能够处理大线宽的相位噪声。在激光器线宽小于100KHz条件下,自适应卡尔曼滤波器的复杂度约为修正版盲相位搜索的复杂度的2/5,也低于修正拓展卡尔曼滤波器。导频最大后验概率方案的复杂度显著低于盲估计方案。并且其频谱效率损失低,仅为4/256。对载波频偏具有良好抗性,频偏容限达1.2MHz。本论文的研究成果对于多载波灵活光网络的发展具有一定的理论价值。