本论文是河北省自然科学基金资助项目(F2008000116)。随着高速光纤系统的发展，偏振模色散(PMD)成为限制高速率传输的主要因素。然而传统的光域补偿由于技术的复杂程度及成本等方面存在缺点，近年来电域均衡技术以其突出的价格优势和对色散变化较强的适应能力等特点倍受关注。 本文设计了一基于最大似然序列估计(MLSE)的均衡器，该均衡器通过Viterbi 译码算法实现，用来补偿光纤通信系统中由偏振模色散(PMD)引起的码间干扰。首先介绍了课题研究背景和研究内容以及偏振模色散(PMD)的相关基本理论，分析了线性前馈横向均衡器和判决反馈均衡器及其算法；其次重点研究了基于Viterbi 译码算法的最大似然序列估计(MLSE)均衡器，通过编写Matlab 程序对带偏振模色散(PMD)的光纤通信系统进行仿真，仿真结果表明对于单信道40Gbit/s的非归零码(NRZ)系统，在加性高斯白噪声条件(AWGN)下，最大似然序列估计(MLSE)均衡器能有效地抑制偏振模色散(PMD)，改善系统性能；最后对最大似然序列估计(MLSE)均衡器同线性前馈横向均衡器和判决反馈均衡器进行了比较，结果表明最大似然序列估计(MLSE)均衡器优于线性前馈横向均衡器和判决反馈均衡器。