信道编码是无线通信系统中对抗干扰和衰落不可或缺的技术手段。极化码是最新提出的一种理论上能达到香农极限的信道编码，编码和译码复杂度低，具有广泛的应用前景。MBM（Media-Based Modulation）是一种新型的调制传输技术，它将部分信息承载到信道状态上，从而提高数据传输效率和物理层安全性。将极化码和MBM级联，能够以较低的复杂度提升系统性能。本文主要研究了极化码的译码算法、极化码与MBM级联方案以及级联系统的检测译码技术。　　本研究介绍了极化码和MBM的原理特性。阐述了极化码的极化现象和原理，引进密度进化和高斯近似方法来度量信道可靠性。然后对极化码的编译码算法进行了说明，并对SC（Successive Cancellation）和BP（Belief Propagation）译码算法做了仿真性能对比。针对MBM技术，本文将MBM应用到MIMO（Multiple-Input Multiple-Output）系统中，并对相同数据速率下不同多天线技术方案进行了性能比较。对极化码译码算法进行了研究，提出了改进的双阈值剪枝策略和动态路径拓展的SCL（SC List）算法。在原来双阈值剪枝策略的基础上，提出了新的阈值划分方法。新策略将选取路径度量值过程的复杂度从?(LlogL)降低为O(L)。利用分支策略和剪枝策略，本文提出了一种动态路径拓展的SCL算法，简称DPE-SCL（Dynamic Path Extention SCL）算法。这种译码算法不固定候选路径数，允许其动态变化，由分支策略和剪枝策略来控制路径数的变化。仿真结果表明，DPE-SCL算法在低信噪比下有更好的性能，但是以路径数增多为代价，对应地，高信噪比下性能略有下降，此时具有较低的译码复杂度。研究了极化码与MBM的级联方案。利用极化码与MBM各自的特点，提出了一种新的级联方式，称为PC-MBM（Polar Coded MBM）。它将极化码的固定位比特映射到信道序号MBM消息上，而将信息位比特映射到SBM（Source-Based Modultaion）消息上。由于固定位比特已知，在接收端就不必对信道序号进行估计，直接可以用于 SBM消息的检测，检测复杂度大幅下降。接着利用信道极化特性，将PC-MBM信道转化为并行独立的子信道，根据子信道的信道容量来进行极化码编码构造。针对级联系统的检测译码，基于软判决ML检测算法，提出了两种低复杂度的ML（Maximum Likelihood）检测方法。首先借鉴球形译码的思路，将搜索空间限定在一定范围内。其次，提出了区域限制的ML检测方法，将搜索空间进一步减小，使得计算复杂度更低。