采用无线中继的新型网络结构使得传统蜂窝系统被扩展为新一代多跳蜂窝系统。而网络编码作为一种新的中继技术，可以使通信网络达到最大吞吐量，最高限度地利用现有的网络资源。新一代蜂窝系统还涉及高级的频率复用技术，如软频率复用。　　本文针对这两种技术展开研究。结合无线信道的特征，在了解分集技术和合井技术的基础上，重点研究了放大转发(Amplify and Forward，AF)和解码转发(Decode and Forward，DF)中继传输机制以及中继信道容量。研究了基于机会中继选择的无线网络编码的系统性能。对所研究的多跳蜂窝系统，比较了基于网络编码感知中继选择与传统中继选择的容量性能。仿真结果显示网络编码感知中继选择相对于传统中继选择可以提供最大为25％的容量增益，同时网络编码感知中继选择也能够更好地体现用户间的公平性。研究了新一代蜂窝系统中采用的频率复用技术。讨论了三种常见的静态小区间干扰协调技术，分别为硬频率复用、部分频率复用和软频率复用。而软频率复用技术作为长期演进(Long Term Evolution，LTE)频率规划的主流技术，对其进行了重点研究，包括它的由来、频率复用因于的选取、基本原理、划分准则以及它的优点。在一个软频率复用方案下，小区被划分为中心区域和边缘区域，两者赋予不同的复用因于，这样就可以在不牺牲小区整体频谱利用率的前提下提高小区边缘区域的吞吐量。仿真结果与华为公司提出的软频率复用方案的理论结果基本相同。