极化码（Polar Codes）是在理论上被证明可达香农极限的信道编码方案,与其他纠错码相比具有编译码复杂度低、构造简单等特点,但传统的译码算法建立数学模型和求解都较为复杂。通信系统中的译码过程可以看作是对信息的分类,而深度学习可以对大量训练数据进行有效处理并从中学习到相关的特征,能够解决很多非线性的复杂建模任务,因此可以将深度学习用于通信系统中的译码过程。有鉴于此,本文对极化码与深度学习相结合的译码方案展开深入研究,分别对基于深度学习的连续消除（Successive Cancellation,SC）译码算法和置信传播（Belief Propagation,BP）译码算法进行优化改进,主要取得了以下几方面的研究成果:（1）利用神经网络对极化码的码字结构特征进行学习,设计了替代传统极化码译码器的深度学习译码方案。考虑到深度神经网络（Deep Neural Networks,DNN）适合高效并行计算,卷积神经网络（Convolutional Neural Networks,CNN）擅长提取数据特征,而长短期记忆网络（Long Short-Term Memory,LSTM）则适用于处理时间序列信号,因此分别设计了基于DNN、CNN和LSTM的极化码译码器模型,并针对误码率（Bit Error Rate,BER）、误帧率（Frame Error Rate,FER）、归一化验证误差（normalized validation error,NVE）、模型泛化能力、存储开销和运算复杂度等方面进行实验研究。实验结果表明,在相同参数规模下,DNN译码器模型不仅译码性能优异,而且存储开销和运算复杂度最低,更符合通信系统实际应用场景的要求。（2）通过深入分析神经网络译码器（Neural Network Decoder,NND）权值存储开销和时间开销对神经网络SC译码算法的影响,本文提出了一种低精度的深度神经网络连续消除（Low-Precision Deep Neural Network Successive Cancellation,LP-DNN-SC）译码算法。该算法首先对采用权值量化深度神经网络译码器的有限位数的权值来实现低精度译码,使用Q8.4定点数字格式8位量化输入和输出执行所有的算术运算来实现int8计算。利用分块思想,分别对每个极化码子块执行深度学习译码,最后将训练好的各个子块DNN译码器通过传统SC译码算法进行耦合。与神经连续消除（Neural Successive Cancellation,NSC）译码算法相比,该算法通过权值量化减少了神经网络译码器权值的大小,减轻了浮点译码器对内存的高要求,取得了较低的译码时延。实验结果表明,与NSC译码算法和NND相比,该算法取得了较好的译码性能增益。对于（32,16）的极化码,该算法和NSC算法相比所需要的时间步长数降低了10%,和SC算法相比时间步长数降低了85.4%,取得了较低的译码时延。（3）针对BP译码算法误块率（block error rate,BLER）性能较差以及计算复杂度较高的问题,本文结合偏移最小和（Offset Min-Sum,OMS）近似算法和比特翻转（bit-flipping,BF）机制提出了一种基于循环神经网络的偏移最小和比特翻转置信传播（Recurrent Neural Network Offset Min-Sum Belief Propagation Bit-flip,RNN-OMS-BPF）译码算法。该算法首先通过极化码的码字结构构造临界集（Critical Set,CS）,信息比特在CS集合中根据对应极化信道的错误率降序排序。然后根据极化码BP译码消息更新因子图与神经网络结构的相似性,在RNN架构的基础上展开BP译码消息更新因子图构成循环神经网络BP译码算法,并采用OMS对循环神经网络BP译码算法进行改进。如果BP译码算法的译码结果未通过循环冗余检查（Cyclic redundancy check,CRC）校验,则从CS集合中选择候选信息比特进行比特翻转。该算法通过RNN架构在BP译码迭代间实现参数共享,减少了达到收敛效果所需的迭代次数,利用OMS替换了算法的乘法运算,改善BP译码算法的计算资源消耗与额外内存开销,并且通过BF显著的提高了算法的误差校正能力。实验结果表明,与L=4的CRC辅助连续消除列表（CRC Aided Successive Cancellation List,CRCSCL）译码算法相比,该算法约有0.50d B的性能增益。与基于循环神经网络的置信传播（Recurrent Neural Network Belief Propagation,RNN-BP）译码算法,该算法减少了50%的加法运算和28.7%的存储开销。