近年来,光相位调制格式成为国内外光传输技术研究的热点。与基于开关键控(OOK)调制格式的传输系统相比,基于相位调制格式的传输系统有较高的接收机灵敏度和较大的非线性容限。故相位调制格式成为系统升级首选的传输技术。然而,相位调制格式的调制和解调方法的不成熟以及对相位调制系统中相位噪声的研究的不完善,限制了其在系统中进一步应用。本文围绕此问题,对相位调制格式展开深入研究。首先本文讨论了相位调制器和强度调制器的工作原理,以及DPSK和DQPSK的详细调制解调方法,提出了一种推导DQPSK预编码器逻辑表达式的方法;然后比较了各种相位调制格式的色散容限和非线性容限,仿真结果表明基于CRZ的相位调制格式性能最优;最后对相位噪声进行了详细分析,从相位噪声的统计模型出发,得出非线性相位噪声和接收强度的联合概率分布函数,在此基础上,推导出非线性相位噪声引起的误码概率准确表达式。