当前,人们对无线通信系统的信息传输性能要求日益严苛。因此,为提高蜂窝小区边缘用户的通信质量及扩展蜂窝小区的覆盖范围,在无线通信系统中引入中继协作技术,其可通过获取分集与复用增益,提高无线通信的传输性能。信道编码技术与自动重传（Automatic Repeat reQuest,ARQ）技术在抵抗干扰、降低误码率方面具有显著优势,将其应用于中继协作通信系统中,可有效地提高传输系统的可靠性。本文主要是基于中继协作网络场景下,对性能接近香农限的Turbo码和LDPC码及ARQ技术进行深入研究,研究内容如下:（1）针对单信源单中继传输网络,从Turbo码的译码原理角度出发,利用信源信息与中继信息的相关性估计,提出一种基于比特翻转概率的Turbo码译码算法。该算法中,中继节点采用低复杂度的信息解调转发方式;基站依据所接收的信源信息与中继信息进行相关性估计,估算出比特翻转概率;最后,基于比特翻转概率实现两个分量译码器之间外信息的更新,从而实现Turbo码迭代译码算法的设计。研究表明:相比于传统的中继协作译码方案,在加性高斯白噪声（Additive White Gaussian Noise,AWGN）和Rayleigh信道条件下,所提Turbo码译码算法具有明显性能优势。（2）针对单信源单中继传输网络,使得置信传播（Belief Propagation,BP）译码算法与ARQ技术相结合,设计了一种自适应LDPC译码算法。在该算法中,中继节点依据基站发送的自动重传请求信息判断是否需转发低复杂度的解调信息;其次,基站利用比特翻转概率,在信源LDPC译码器与中继LDPC译码器之间进行联合迭代译码算法设计,在每次迭代译码过程中,外信息的更新通过比特翻转概率实现。仿真结果表明:相比传统中继方案,所设计的自适应LDPC码译码算法在信源-中继链路分别优于信源-基站链路5dB和10d B的信道条件下,误码率为10^-4时,其性能分别改善了4.0dB和5.8dB。（3）针对多址接入中继传输网络,设计了一种基于ARQ技术的自适应联合LDPC-网络编码传输方案。基站根据对所接收的多个直传链路信源信息的估计,通过反馈信道向中继节点发送有误码的信源节点因子集合的ARQ信息;中继依据所接收的ARQ信息进行自适应的网络编码并转发;最后,依据直传链路信息和中继自适应转发的信息进行联合的LDPC迭代译码设计。仿真结果表明:所提出的传输方案相比于传统方案有较大的性能改善;其中,中继译码转发方案相比于解调转发方案有更好的性能增益。