大规模机器类通信（massive Machine Type Communication,m MTC）作为第五代（the Fifth-Generation,5G）移动通信系统的三大关键场景之一,广泛应用于智慧交通、城市大脑、健康监测等领域,为人类的生产和生活提供了极大的便利。与此同时,巨大的用户数、庞大的数据量以及复杂的业务场景,也对通信领域技术的革新提出了严峻的挑战,其中就包括对无线网络接入的控制。免授权（grant-free）的非正交导频接入模式,利用压缩感知（Compressed Sensing,CS）框架进行用户检测和信道估计,能够应对m MTC场景中用户数巨大、用户呈现零星活跃状态而导致的资源冗余等问题。本论文基于这种场景,提出了一种应用于m MTC活跃用户检测的新型神经网络（Neural Network,NN）。首先,本论文简要介绍了通信技术的发展历史和下一代移动通信技术的主要应用场景,并着重介绍了m MTC场景的一些实际应用。同时,本论文介绍了稀疏信号重构算法和深度展开网络（Deep Unfolding Net,DUN）的研究现状,为之后的研究工作做铺垫。然后,基于m MTC的实际通信场景建立了数学模型,旨在将上行通信中的活跃用户检测抽象为对稀疏信号的求解,再利用CS和NN的相关理论优化求解过程,从而降低错误率。在用户设备为单天线的前提下,当基站（Base Station,BS）为多天线时,对该模型的求解可以看作一个列稀疏模式相似的高维稀疏矩阵重构问题;当BS为单天线时,则该问题降维成一个经典的稀疏向量求逆问题。同时,本论文着重介绍并重新推导了两种经典求逆算法:迭代收缩阈值算法（Iterative Shrinkage Thresholding Algorithm,ISTA）和近似消息传递（Approximate Message Passing,AMP）算法。这两种算法可以在DUN网络中进行展开和优化。其次,本论文介绍了基于数据驱动（data-driven）和模型驱动（model-driven）的两类NN,并说明了将模型驱动型网络应用在通信问题上的优越性。作为一种新型可解释的NN,它的内部结构是建立在经过严谨数学证明的算法之上的,并且由于网络结构固定,其可训练参数的个数少,训练复杂度低,更适合应用于对延迟要求严格的通信系统。之后,本文提出了一种新型网络——基于Stein无偏风险估计的AMP网络（the Stein’s Unbiased Risk Estimate–AMP Net,SURE-AMPNet）,简称SANet。这是一种以AMP算法为基础、以散度趋零（divergence-free）自适应降噪器为核心,借助DUN网络为框架的新型网络。本论文首先从一维观测向量（Single Measurement Vector,SMV）入手,推导了自适应去噪器系数的计算方法,并给出了SANet-SMV网络的整体结构。通过实验仿真,说明了SANet-SMV网络相较于其他算法在收敛速度、收敛结果、畸变对抗等方面性能的优越性。并且通过仿真,说明了SANet-SMV无需先验信息的特性以及它的低训练复杂度。最后,本论文将SMV网络扩展为高维观测向量（Multiple Measurement Vector,MMV）网络。该网络综合考虑了实际情况中的传输能量、尺度衰落等,将复数信号通过分块转化为实数计算,并详细阐述了SANet-MMV网络的线下训练和线上使用策略。通过实验仿真,说明了相较于主流方法向量近似消息传递（Vector Approximate Message Passing,VAMP）,SANet-MMV在误判率性能方面的优越性。并且,当天线数增多时,SANet-MMV能够在保持自身训练复杂度不变的同时提高误判率性能。本论文也研究了SANet-MMV这种新型网络在实际通信场景下的可行性,给出了网络层数设置的方案,并通过实验说明了该网络能够在未知用户接入概率的前提下完成检测任务。同时,本论文给出了训练完毕后的SANet-MMV网络实现一次计算所需要的时长,说明了网络的计算速度符合相干时间的要求。相比于其他算法,SANet这一新型网络在性能上有所提升,并且能够对抗多种畸变情况,具有很强的鲁棒性。同时,它能够很好地应用在高维问题中,解决多天线问题。作为NN的一种改进,SANet的低训练复杂度、高效计算能力以及无需先验信息的特性,都为它在实际场景中的应用提供了很好的支撑。