协作通信系统通过引入中继协助用户间通信,使系统获得空间分集增益,提高了用户间链路的传输性能。但是,受链路信道质量影响,中继接收源节点发送的信息序列存在解调、译码错误。通过采用高效的中继转发策略,能够有效抑制中继错误传播对系统性能的影响,因此中继转发策略设计成为协作通信技术研究的热点问题。另一方面,协作通信系统中的源节点可能存在多个可用中继,如何在可用中继集合中选择参与协作的最优中继,将直接影响协作通信系统的性能。所以,中继选择策略也成为多中继协作通信中的重要问题。本文结合协作通信与信道编码,在单中继解调转发策略、单中继译码转发策略、多中继最优中继选择策略以及增量机会中继选择等方面开展了深入的研究工作,论文的主要内容与创新性工作包括:1.提出了一种基于对数似然比的双门限中继解调转发策略,在门限数字中继基础上通过仅对S-D直传链路中的不可靠接收符号进行合并,进一步改善了系统性能,并研究了其在非理想信道估计下的鲁棒性。首先,提出了一种分别在中继与目的节点采用对数似然比门限,从而对源节点发送信息进行可靠性度量的双门限中继解调转发策略。其次,从理论上推导了所提出策略的系统误比特率表达式。通过分析与计算,得到了满足系统误比特率最小的对数似然比门限的闭式解。最后,考虑到受信道估计错误以及反馈延时影响,各节点无法获得理想的信道状态信息这一实际问题,推导了非理想信道估计下所提出策略各链路信噪比表达式,并通过分析与仿真验证了所提出方法对于非理想信道估计的鲁棒性。2.提出了一种基于核函数K-均值聚类算法的符号选择性中继译码转发策略,使中继在错误译码时仍可以为系统提供空间分集增益。根据Turbo编码器结构与LogMAP译码算法收敛特性,设计了多种用于度量译码输出符号可靠性的数据集。在此基础上,通过应用核函数K-均值聚类算法将译码输出符号分为可靠译码符号与不可靠译码两组,使中继仅向目的节点转发可靠译码符号。同时,为了进一步抑制中继错误传播对系统性能的影响,在目的节点通过信噪比门限度量源节点发送序列的可靠性,仅在源节点发送序列不可靠时对两路信息序列进行合并。上述策略为从译码输出中选择可靠译码符号提供了有效的手段。针对采用分布式Turbo编码的协作通信系统,通过构建译码输出等效模型,提出了一种基于系统误比特率最小的中继译码转发策略,给出了译码输出门限的闭合表达式。根据高斯近似理论,对卷积译码输出对数似然比建立等效模型。在上述模型基础上,利用门限衡量译码输出的可靠性,从而使中继仅转发可靠译码输出,降低了错误传播对系统性能的影响。通过推导系统误比特率表达式,得到了不需要预先估计等效模型相关参数的中继门限的闭式解。3.首先,针对多中继系统最优中继选择问题,提出了一种基于系统误比特率最小的加权机会中继选择策略。推导了所提出策略的系统误比特率表达式,并通过网格搜索得到了使系统误比特率取得最小值时所对应的加权系数。根据加权系数随信噪比的变化,分析了源-中继链路和中继-目的链路的信道质量对于系统误比特率的影响。其次,通过对系统误比特率的分段表示,提出了一种快速度量各中继链路系统性能的方法,并在此基础上提出了一种中继选择策略。通过分析系统误比特率随各链路信噪比的变化趋势,建立了系统误比特率与中继-目的链路瞬时信噪比之间的近似关系模型。在此基础上,通过对系统误比特率的分段表示,导出了系统误比特率的简化计算式,并将其应用于多中继选择,满足了中继对于低实现复杂度的需求。最后,提出了一种基于对数似然比门限的机会中继策略,给出了门限的闭式解。参考目的节点存在反馈的增量机会中继策略,在目的节点采用对数似然比门限对源节点发送符号的可靠性进行度量。通过推导系统误比特率表达式,得到了目的节点对数似然比门限的闭式解。最终,通过仿真验证了所提出方法与已有方法相比,对于中继错误传播具有更好的鲁棒性。