本文围绕SCMA多址接入系统中继协作通信网络中非确信中继链路的安全问题进行展开。中继协作通信模型是各个节点具有不同安全级别的通信网络,而中继节点在网络中具有较低的安全许可,因此其正在中继的机密消息不被信任。假设机密消息用于身份验证,为了避免受窃听节点非法攻击,应当禁止向中继节点泄露该消息。因此,中继器不仅被视为帮助消息传输的发送器,还应被视为能够窃听所传输信息的窃听器。针对上述问题,本文提出了中继协作SCMA网络的物理层安全模型,设计低复杂度载波分配优化方案。以最大化非确信中继系统保密和速率为目标,优化SCMA系统用户资源映射矩阵,提升系统保密性能。除此之外,本文研究了系统收发用户对内节点功率分配方案。最后,在系统模型内加入协作干扰节点,研究用户节点与协作干扰节点的功率分配方案,进一步达到增强系统保密性能。首先,本文根据SCMA通信系统多用户信号传输的特征,设计合理的中继协作SCMA网络的物理层安全模型,分析系统的保密性能。假定在此系统模型中协作中继的工作模式为放大转发模式,理论分析并仿真验证中继放大转发系数对系统保密性能的影响,设计合理的中继放大转发方案。其次,针对SCMA多址接入系统多用户非正交传输的工作模式,设计低复杂度载波分配优化方案。以最大化非确信中继系统保密和速率为目标,优化SCMA系统用户资源映射矩阵,采用基于博弈论的双匹配算法,以低复杂度达到接近穷举遍历资源分配方案的性能。本研究同时对算法收敛性,稳定性以及算法复杂度进行了详细分析。最后,为了在不影响系统用户正常通信的前提下进一步提升系统的保密性能,研究了系统功率分配方案。首先在无协作干扰的系统框架下,研究系统收发用户对功率分配方案。进而在系统模型中加入协作干扰节点,分别理论分析了协作干扰发射信号被系统用户节点完美已知与未知两种情况对系统保密性能的影响。通过理论分析和仿真验证,证明了只有在协作干扰信号被系统用户终端节点已知时,加入协作干扰信号才会使得系统整体保密性能提升。对于协作干扰信号被终端用户已知的系统模型,研究完成了基于最大化系统保密和容量的系统用户与协作干扰功率分配方案研究,并且所研究的方案要求不过多增加系统功率开销。在给定系统额外开销设计指标的前提下,所设计的算法可以求解出用户节点与协作干扰节点之间的最优功率分配方案。