随着信息技术的飞速发展,通信工程中对数据链路传输速率的要求日益提升,而频谱资源有限始终是制约通信速率提升的瓶颈。因此,提高通信频谱利用率成为解决这一问题的重点研究内容,而利用电磁波的极化特性来提升通信系统的频谱利用率则成为一个重要的发展方向。通信系统中利用电磁波极化信息提高频谱利用率主要有两种方式:双极化复用技术(CCDP,Co-Channel Dual Polarization)和极化调制技术(PM,Polarization Modulation)。由于信道特性不理想,极化复用技术会引入交叉极化干扰,需要采用交叉极化干扰抵消器(XPIC,Cross Polarization Interference Canceler)进行干扰消除。在极化调制技术中,大气中的降雨、冰晶等会引起去极化效应,影响通信性能,需要进行去极化补偿。本文以卫星高速数传系统为应用背景,针对两类提高频谱利用率的极化域技术各自存在的问题,重点研究了极化干扰抵消技术和信道去极化补偿技术。首先,论文介绍了电磁波极化的基本理论,建立了交叉极化信道模型和去极化信道模型,为本文后续研究奠定了基础。其次,论文主要介绍了交叉极化干扰消除器的工作原理,推导并仿真分析了现有的基于相关性的干扰抵消算法、基于信道参数估计的干扰抵消算法和基于横向滤波的干扰抵消算法。针对现有的基于横向滤波的干扰抵消算法的不足,提出了适用于高速数传的基于SCS(Soft Constraint Satisfaction)算法的干扰抵消器,仿真结果验证了提出的基于SCS算法的干扰抵消器在收敛性和灵活性上具有优势,适用于高速数传系统。最后,论文介绍和推导了卫星通信极化信道模型,分析仿真了信道的去极化效应,并根据去极化的机理分析了几种环境因素同去极化效应的相关关系,得出结论对交叉极化鉴别度影响最大的是降雨。针对现有去极化预补偿结构存在的双极化支路失配的问题,提出了适合卫星高速数传的去极化预补偿结构,仿真结果验证所提出的去极化预补偿系统可以有效补偿信道的去极化效应。