近些年来，协作通信技术通过构造高速率码获得协作分集增益，因此得到越来越多的关注。中继技术是其中研究最多的协作技术之一，中继系统的核心思想是通过译码转发功能传输源节点的信息来协助目的节点译码。本文针对无线中继网络，研究译码转发中继系统的双层延长LDPC设计，使系统性能最优。主要工作概述如下：针对单信源单中继网络模型，本文从逼近中继信道容量限的角度出发，研究两种双层LDPC码的优化设计方法。首先，针对双层延长LDPC码结构，本文详细推导了双层高斯近似密度进化算法。基于高斯近似算法，提出了联合优化双层延长LDPC码的设计方法，可以实现从信源到目的端和信源到中继两条链路传输速率同时达到最大。其次，在源节点发送双层延长LDPC码，中继节点译码转发校验消息时，目的节点将源节点和中继节点的编码作为一个整体的LDPC码进行译码。在此基础上，本文提出了扩展双层延长LDPC码的结构，并给出了目的节点的联合译码方法。针对扩展双层延长LDPC码结构，提出了联合优化扩展双层延长LDPC码的设计算法，给出了一种度序列优化方法。最后通过计算机仿真分析了系统的性能。仿真结果表明，与已有的局部优化算法搜索到的码字性能相比，在同样的仿真条件下，本文联合优化设计的双层延长LDPC码以及扩展双层延长LDPC码，其译码阈值与香农理论限的间隔更小，误码性能与利用双层密度进化算法搜索到的最优码集接近，同时计算复杂度大大降低。