本文探究了中继系统采用物理层网络编码时对系统容量的影响,研究了实现物理层网络编码的叠加信号解调技术；设计了物理层网络编码的实现模型,并根据该模型利用软件无线电技术搭建了一个双向中继系统,测试了该系统的性能。首先,论文在时分单向中继系统和基于物理层网络编码的双向中继系统的端到端传输消耗的时频资源和传输能量均相等条件下,利用香农定理从理论上分析了两种系统在非对称衰落信道环境中的容量；并根据分析结果得出基于物理层网络编码的双向中继系统的容量性能并不是在所有的通信场景都优于时分单向中继系统,特别是在不同信源节点和中继节点间的传输链路的信道增益相差较大的通信环境中。借助于数值计算和等高线绘制原理,本文设计出了表示中继系统平均每时隙最大传输速率和对应的最优信源功率分配因子的pH模式图,根据对pH模式图的分析得出物理层网络编码提高中继系统传输速率的能力,是源于它能更好地挖掘了中继系统在发射信号功率较为平衡的通信环境中的信号传输能力。随后,文章分析了基于物理层网络编码的双向中继系统特有的叠加信号在任意衰落环境中的统计特性,并结合叠加信号的统计特性和最大后验概率准则,提出了实现复杂度较低的基于门限值的叠加信号解调算法。仿真结果表明在不同传输链路引入的相位差为π/2的整数倍时,基于门限值的叠加信号解调算法和复杂度较高的最小欧式距离算法性能一样。最后,本文设计了基于解调转发物理层网络编码的双向中继系统的模型,并在通用软件无线电外设(Universal Software Radio Peripheral, USRP)和LabVIEW搭建的软件无线电平台上实现了该系统,并测试了系统的可靠性。系统采用正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)调制方式,两个信源节点和一个中继节点工作在同一个通信频段并以时分复用的方式接入。