中继技术由于能够显著改善通信系统的容量和覆盖率,被认为是第五代移动通信系统(5th Generation, 5G)的关键技术之一。中继将通信系统的直传链路转变为多跳链路,给通信系统带来了信道多样性增益,改善了信道质量,提升了系统容量和能量效率。然而,随着移动互联网以及物联网业务的发展,未来5G通信系统将面临超高系统容量、超高设备密度、超高可靠性等挑战。采用正交多址接入(Orthogonal Multiple Access,OMA )的中继通信系统已经不能满足新一代移动通信系统的需求。而非正交多址接入(Non-orthogonal MultipleAccess,NMA)作为一种新型多址技术,已成为通信网络面向2020年的重要发展趋势之一。其中,稀疏编码多址接入(Sparse Code Multiple Access, SCMA)采用稀疏性码本实现通信系统的过载,具有接收机复杂度低、可实现免授权接入等优点,被认为是最具潜力的5G候选多址技术之一。因此,将非正交多址技术应用到中继系统将是非常具有实际意义和发展前景的。在未来5G通信系统要求进一步提高无线资源利用率的背景下,以实验室纵向和横向项目为支撑,本文研究了中继系统新型多址技术。其中,主要的研究重点为SCMA上行多用户单中继系统和SCMA上行多用户多中继系统的联合资源分配。本文首先对新型多址技术和中继技术进行了系统的研究和阐述。由于非正交多址技术的概念较为宽泛,本文主要分析了多用户共享接入(Multi-User Shared Access,MUSA)、图样分割多址接入(Pattern Division Multiple Access,PDMA)、非正交多址接入(Non Orthogonal Multiple Access,NOMA)以及SCMA四种典型的非正交多址技术。关于中继技术的研究,本文则主要关注中继与其他新技术的结合,分析了中继选择和中继系统资源分配的特点。本文对SCMA上行多用户单中继系统的研究中,首先提出了一种结合SCMA与正交频分多址接入(Orthogonal Frequency Division MultipleAccess,OFDMA)的新型传输策略。然后在考虑用户设备与中继的发射功率受限的条件下,求解基于系统加权和速率最优的码本分配、功率分配以及子载波配对的联合资源分配。由于所要求解的优化问题为混合型整数问题,原问题被拆分为码本和功率的联合资源分配与子载波配对两个相对独立的子问题。通过迭代地求解两个子问题,本文提出 了联合资源分配算法(Iterative Joint Resource Allocation with Subcarrier Pairing Algorithm,IJRASP)。通过五种仿真方案的对比验证,相对于OFDMA多用户单中继系统,IJRASP能够从不同维度上提升系统的加权和速率与能量效率,实现高效率通信。在对SCMA上行多用户单中继系统研究的基础上,考虑每个用户设备周围可能分布着多个可用中继,因此本文进一步研究了 SCMA上行多用户多中继系统。在SCMA上行多用户多中继系统中,首先提出了包含多用户广播信息和单中继转发信息两个阶段的传输策略。以系统加权和速率为优化目标,提出了考虑中继选择、码本分配、功率分配以及子载波配对的联合资源分配算法(Joint Resource Allocation with Relay Selection Algorithm,JRARS ) 。 该算法分为两个步骤:第一个步骤,在每个可能的中继选择方案下,实现基于系统加权和速率最优的码本分配、功率分配以及OFDM子载波分配的的联合资源分配;第二个步骤,采用一维搜索算法求解最佳中继选择。仿真结果表明,JRARS能够从系统加权和速率与能量效率两个角度同时提升系统性能,实现SCMA上行多用户多中继系统的高效率通信。同时,本文还分析了 SCMA上行多用户多中继系统中用户设备发射功率上限、OFDM子载波数目以及中继数目与系统加权和速率、能量效率以及接收机复杂度的关系,并针对于实际的系统部署给出了建议。