随着移动通信的发展,4G已大规模商用,面向2020年的5G技术研究如火如荼。物联网时代的到来,使得5G将会面临海量连接的场景,迫切需要进一步提升系统容量。现有的正交多址接入技术无法满足5G多场景需求,非正交多址接入技术在信道容量性能上的优越性使得非正交多址接入技术成为5G中的热门候选技术。本文首先介绍了四种多用户非正交接入系统以及多用户检测技术。非正交系统在发送端引入非正交,和正交多址接入不同,用户数据互相不正交使得用户之间存在较大干扰,所以接收端要利用复杂的多用户检测技术来分离用户数据。线性检测技术实现简单,但是难以满足系统性能需求,因此在接收端采用线性检测模块和串行干扰消除接收机相结合的接收机算法。其次,本文研究了下行多用户非正交共享接入模型。以下行两用户非正交模型为基础,通过对下行AWGN信道容量的分析,论证了非正交接入方式的优越性。对下行干扰消除方案进行分析,并给出仿真结果验证其误码性能。并进一步对下行多用户非正交共享接入模型进行改进,在发送端叠加编码后引入扩展序列,进一步提升系统的误码性能。最后,本文研究了上行多用户非正交接入模型。通过研究上行链路AWGN信道下的信道容量,证明了非正交多址上行信道容量优于正交多址接入。对上行多用户接入模型发送端进行研究,对比分析了采用不同扩展序列的性能,仿真结果表明采用复数多元序列性能更优。在接收端,深入研究了MMSE-SIC算法,通过仿真给出用户过载和误码性能曲线。针对MMSE-SIC时延较大的问题,本文提出了准并行干扰消除算法,该算法减小了时延,但是过载性能有所下降。于是在此基础上提出改进干扰消除方案,保证过载性能的情况下,减小了高负载场景下系统时延。