在传统无线通信网络中，通过协作中继通信可以获得多跳增益，可以满足高带宽、高速率的无线传输要求。但在多用户的情况下，中继节点若只是采取传统中继方式，会造成系统的吞吐量降低，成为系统性能的瓶颈。本文将网络编码的思想引入到协作通信中，通过对来自不同用户的数据进行网络编码获得吞吐量的增益，提高协作中继通信系统的性能。本文研究了网络编码在双向中继信道（Two-Way Relay Channel，TWRC）这种最典型的协作中继结构中的应用。首先，本文介绍了网络编码的基本原理和双向中继信道模型的结构，回顾了卷积码的编码和维特比译码过程，介绍了软信息和软网络编码的概念，并阐述了均匀量化器和两种非均匀量化器—Lloyd-Max量化器和等概率输出量化器的工作原理。其次，推导并给出了采用传统中继方案（Traditioanl Scheme，TS）和网络编码方案（Network Coding Scheme，NCS）的TWRC模型的性能的理论值。在此基础上，将信道编码引入到NCS-TWRC模型中，先分析了采用硬判决的信道-网络编码（Channel-Network Coding Scheme，CNCS）的TWRC模型的系统结构和各个模块的信息处理过程，讨论了中继节点配置为基本结构和交换结构的两种情况，并给出了理论推导。通过软件仿真，可以看出，基本结构的CNCS-TWRC模型的吞吐量性能和误码率（Bit Error Rate，BER）性能要好于交换结构的CNCS-TWRC模型。而且这两种模型吞吐量都要大于传统中继模型，但也要付出误码率性能恶化的代价。最后提出了两种基于软信息的信道-网络编码SCNCS （SoftChannel-Network Coding Scheme）的TWRC模型，第一种是链路级方案，在中继节点采用软输入硬输出（Soft-Input Hard-Output，SIHO）信道译码方法，第二种是端到端方案，只在源节点和目的节点进行信道编码和译码。接着详细分析了上述两种方案的结构并给出了系统结构。通过软件仿真，可知采用非均匀的Lloyd-Max量化器和等概率输出量化器时，链路级SCNCS-TWRC模型的吞吐量和端到端误码率性能基本相同，都要优于采用均匀量化器的情况；此外，端到端的SCNCS-TWRC模型的吞吐量性能要好于端到端的CTS-TWRC模型，但也付出了误码率的代价。