RSMA是近年来提出的用于提升MIMO传输性能的方法,它的基本思想是发射端将待发送消息划分为专有部分和公有部分,其中公有部分合并为一个整体,与专有部分在相同的时频资源内传输。论文围绕RSMA预编码矩阵以及公有消息速率拆分的联合优化问题展开了研究,并将其传输性能与传统的SDMA和NOMA传输方式进行了比较。论文主要工作如下:一、针对RSMA下行MISO传输,以最大化最小用户可达速率为目标,提出了RSMA预编码矩阵和公有消息速率拆分联合优化算法。主要工作包括:1)对问题所对应的数学优化模型,使用WMMSE方法将其转换为一个等价的最优化问题;2)对该等价优化问题,使用均衡变量、权重变量和预编码矩阵、公有消息速率分配交替优化的方法,提出了迭代算法,根据迭代算法的解可以得到原问题的解;3)分别在随机信道和固定信道这两种场景下,仿真比较了RSMA、SDMA和NOMA在最大化最小用户可达速率条件下三种传输方案的可达速率性能,发现RSMA的性能优于其他两种方案,SDMA和NOMA的性能在不同场景下各有优劣。二、针对RSMA下行MISO传输,以最大化最小用户能量效率为目标,提出了RSMA预编码矩阵和公有消息速率拆分联合优化算法。主要工作包括:1)针对问题对应的非凸优化模型,采用连续凸近似方法,提出低复杂度迭代算法;2)仿真比较了RSMA、SDMA和NOMA传输在最大化最小用户能量效率条件下三种传输方案的能量效率性能,发现RSMA的性能优于其他两种方案,SDMA和NOMA的性能在不同场景下各有优劣。三、针对RSMA下行MISO多用户协作传输场景,分别以最大化系统加权和速率和最大化最小用户可达速率为目标,提出了协作RSMA预编码矩阵、公有消息拆分和协作传输时间分配的联合优化算法。主要工作包括:1)对两个优化问题,均采用连续凸近似方法进行凸逼近,提出了低复杂度的迭代求解算法;2)仿真比较了基于SCA方法求解的协作RSMA和基于WMMSE方法求解的协作RSMA、非协作RSMA、等时间分配协作RSMA及SDMA这几个方案的加权和速率及可达速率性能,发现:基于SCA方法和基于WMMSE方法求解协作RSMA问题取得的性能一致,但基于SCA方法的算法复杂度更低;对于加权和速率性能,协作RSMA优于或是等于非协作RSMA;对于和速率性能,两者相当;对比和速率性能及最小用户可达速率性能,协作RSMA总是优于或是等于非协作RSMA,这说明协作RSMA相较于非协作RSMA更加有助于用户间的公平性;等时间分配协作RSMA和SDMA的性能在不同场景下各有优劣。四、针对存在一个单天线窃听用户的RSMA下行MISO多用户协作传输场景,以最大化防窃听保密和速率为目标,提出了预编码矩阵和协作传输时间分配的联合优化算法。主要工作包括:1)提出将公有消息作为人工噪声用于防窃听的策略,并基于此想法建立了预编码矩阵和协作传输时间分配的联合优化数学模型;2)针对安全速率的不同取值场景,把该数学优化问题分解成四个子问题求解,且对这四个子问题都采用了连续凸近似方法进行求解;3)在防窃听场景下,以保密和速率为目标,仿真比较了协作RSMA、NOMA,以及非协作RSMA、NOMA和SDMA的防窃听性能,结果表明:对于同一种MA传输,协作和非协作的保密性能相当;RSMA的保密性能明显优于其他两种传输,SDMA的保密性能优于NOMA。