LDPC（Low-density Parity-Check）码的编译码复杂度较低,目前正广泛的应用于当前的通信系统中,如第四代（4G）通信系统、光纤通信系统等。Polar码是可以证实达到香农极限的编码方案,现已经将5G通信标准中信道编码方案确定为LDPC码和Polar码。目前,中国正在广泛开展5G建设,现已开始在部分城市启动5G测试点,高速的数字通信时代即将来临。但是由于目前对Polar码的研究不够充分,对于现阶段Polar码的性能并不能直接应用于实际生活。基于此,本文对5G标准下LDPC和Polar进行研究,并对两者及两者级联方案的译码性能进行优化,本文主要内容如下:本文首先主要对LDPC码和Polar码的编码和译码进行说明。并根据TDMP（Turbo-Decoding Message Passing）算法的信息传播方式,从密度进化角度对TDMP算法进行分析说明。对DTMB（Digital Television Terrestrial Multimedia）标准及802.16标准下,不同度数分布的LDPC码的TDMP算法及BP算法进行仿真分析。根据BP（Belief Propagation）算法和TDMP简化算法的校验节点消息传递的概率质量函数（Probability Mass Function,PMF）计算方式,根据密度进化理论,利用归一化因子对TDMP简化算法进行优化。并从密度进化角度对TDMP简化算法的归一化因子的计算进行说明。其次,本文提出基于深度学习的Polar-LDPC级联方案。级联方案利用神经网络对Polar-LDPC级联方案中的Polar码进行译码。仿真分析证明,基于深度学习的级联方案可以在外码码长为16时,深度学习的级联方案的译码性能与传统级联方案的译码性能相同。当级联码的外码码长大于16时,本文提出将外码划分为若干组码长为16的子码,通过外码并联的方式进行外码编码。在信道接收端,利用相应并联的神经网络对外码进行译码。基于深度学习的级联方案可以通过降低外码的译码时延,从而降低整体级联方案的译码时延。从仿真结果可知,在BER=10^-4时,并行级联方案与512码长的Polar码仅差0.1dB。最后,本文根据CRC（Cyclic Redundancy Check）的位置不同,分别分析了Polar-CRC-LDPC级联方案和CRC-Polar-LDPC级联方案中CRC的作用,及对整体级联方案的影响。并利用CRC的检错机制,提出基于CRC辅助的BP翻转算法。通过对BP译码的LLR值较小的信息进行翻转操作,提升BP算法的译码性能,从仿真结果可知,当Polar码长为512时,本文提出的优化算法与传统BP相比,提升0.4dB左右。