随着近年来物联网设备数量的爆发式增长,现有的正交多址接入（Orthogonal Multiple Access,OMA）技术,如时分多址接入、频分多址接入、码分多址接入等,已经无法满足未来无线通信网络对海量物联网设备接入和高频谱效率的需求。因此,亟需研究新型多址接入技术。与OMA技术相比,非正交多址接入（Non Orthogonal Multiple Access,NOMA）技术允许多个用户同时占用相同的时/频/码资源块,因此能够支持更多用户接入并具有更高频谱效率。为了提高信号接收可靠性并扩大网络覆盖范围,可以进一步将协作技术融入NOMA从而形成协作NOMA。尽管NOMA技术在近年来得到了全球科学家和工程师的广泛关注与研究,但是协作NOMA技术的研究尚不完善,特别是如何实现低复杂度协作NOMA系统这一关键问题还需进一步回答。针对上述问题,本文研究融合用户中继协作和无线携能通信的新型NOMA系统。与基于专用中继的协作NOMA系统相比,新型协作NOMA系统能够避免部署专用中继,降低实现复杂度。然而,该系统相应的性能分析和优化理论都亟待建立。本文主要对该系统的中断性能进行分析与优化,研究成果有望进一步完善协作NOMA技术并为设计与部署低复杂度协作NOMA系统提供理论支持。本文的具体研究内容与创新点如下:首先,针对部署专用中继实现协作NOMA复杂度高的问题,本文采用用户中继协作的思想,在下行NOMA系统中让近用户为远用户充当半双工协作中继。同时,本文利用无线携能通信技术,让近用户从基站发射的无线信号中采集能量,并利用该部分能量为远用户转发信号,进一步解决近用户的中继能耗问题。具体而言,本文分别考虑基于功率划分和时间切换的无线携能通信协议,以及与实际情况相匹配的非线性能量采集模型,分析了该系统的中断概率。在此基础上,本文利用高斯-切比雪夫近似技术解析了中断概率闭式解,通过分析该闭式解提出了低复杂度中断概率最小化算法并在仿真中进行了验证。此部分研究成果能够为设计低复杂度低中断概率协作NOMA系统提供理论指导。其次,针对系统固定资源配置难以适配动态变化无线信道所带来的系统中断概率和基站能耗“双高”问题,本文通过自适应优化系统资源配置实现用户按需服务,同时降低系统中断概率和基站能耗。具体而言,本文分别考虑基于功率划分和时间划分的无线携能通信协议,通过建立NOMA基站到各用户信道条件、近用户和远用户最低速率需求、系统功率时间资源的关系,构造了以最小化基站能耗为目标、以系统不中断以及可用资源受限为条件的多维资源联合优化问题。由于直接求解该优化问题极具挑战,本文通过深入分析该优化问题结构,提出了低复杂度功率时间资源按需分配的优化算法并在仿真中进行了验证。该部分研究成果能够为以降低系统中断概率和基站能耗为目标的协作NOMA系统资源分配提供理论指导。接着,针对半双工中继协作需要在两个正交时隙中分别完成信号接收和转发功能所造成的频谱效率受限问题,本文在融合用户中继协作和无线携能通信的NOMA系统中考虑全双工中继协作,即在下行NOMA系统中让近用户为远用户充当全双工协作中继,同时考虑在近用户端采用模拟域和数字域相结合的自干扰消除技术处理全双工收发信号产生的自干扰。通过对残余自干扰合适的建模,本文分析了残余自干扰对该系统中断性能的影响。具体而言,本文分析了基于时间切换的无线携能通信协议和非线性能量采集模型的系统中断概率,利用高斯-切比雪夫近似技术获得并解析了中断概率闭式解,通过分析该闭式解提出了低复杂度中断概率最小化算法并在仿真中进行了验证。此部分成果能够为设计基于全双工中继的低中断概率协作NOMA系统提供理论指导。最后,针对用户中继协作对NOMA系统物理层安全的影响不明晰问题,本文初步探索了一个用户全双工中继协作下行NOMA系统,准确量化了全双工中继协作对NOMA系统物理层安全的影响。具体而言,本文考虑一个用户全双工中继下行协作NOMA系统与一个窃听者共存的场景,采用物理层安全中断概率为指标,分别刻画了NOMA系统中近用户和远用户的安全中断性能。研究发现,基于用户全双工协作的NOMA系统比基于用户全双工协作的OMA系统具有更好的物理层安全中断性能,而且自干扰消除能力越强,物理层安全中断性能越好。该部分研究成果能够为未来协作NOMA系统中的物理层安全设计提供参考。