随着移动互联、高清视频及大数据业务的发展,人们对通信系统容量、传输速率和灵活性的要求不断提高,这推动了光纤通信系统朝着超高速、超大容量、超长距离和动态可重构方向发展。相干光通信技术适合各种高级调制格式,光谱效率高,且具有接收机灵敏度高、波长选择性好等优点。此外,通过相干检测技术可以还原光载波的强度、相位及偏振方向等信息,再结合数字信号处理技术对各种来自光纤信道和光发射/接收模块中非理想因素造成的信号损伤进行补偿,能够大幅提高光纤通信系统的性能,因此相干光通信技术被认为是构建下一代光通信网络的关键技术之一。本论文提出了一套基于数字相干接收机的信号损伤补偿技术,并基于VPI TransmissionMaker 9.1和Matlab搭建的相干光通信系统仿真测试平台验证了算法的有效性。论文首先系统地分析和总结了目前基于数字相干接收机的信号损伤补偿技术的国内外研究概况;然后,通过建立的器件的理论模型研究和分析了光纤的非线性效应、色度色散和激光器相位噪声对信号的影响;接着,本论文研究了基于Viterbi-Viterbi算法的载波相位恢复技术,并在此基础上采用自相关零差搜索和星座图云团圆度优化算法实现了窗口长度的自适应优化,提升了对相位噪声的跟踪速率和补偿精度;之后,本论文提出了一种基于导频的信号损伤补偿技术,通过充分利用导频的幅度、相位和频谱信息能够同时补偿信号色散(Chromatic dispersion,CD)、本振频偏(Laser frequency offset,LFO)、激光器相位噪声(Laser phase noise,LPN)和交叉相位调制(Cross-phase modulation,XPM)效应。最后,本论文研究了一种基于共轭导频的带内非线性效应(Self-phase modulation,SPM)补偿算法,有效地提高了最佳发射功率,并能够减少导频插入造成的频谱效率的损失。