作为一种新型多天线(Multiple-Input Multiple-Output,MIMO)技术,空间调制(Spatial Modulation,SM)利用天线序号携带比特信息,即任一时隙仅激活一根发射天线,接收机恢复相应的天线序号和调制符号,从而解调出比特信息。因此,空间调制技术能够在可靠性、能量效率、频谱效率以及复杂度等方面实现较好的折中,已成为下一代无线通信系统的关键技术之一。接收机检测算法是整个通信系统复杂度和性能的决定性因素,尤其是在空间调制系统中,接收机既要估计发射天线序号,也要恢复出调制符号,检测算法的设计就显得至关重要。在已有的检测算法中,基于穷举搜寻的最大似然(Maximum Likelihood,ML)检测算法可保证性能最优,但其复杂度也是最高的;基于最大比合并(Maximum Ratio Combining,MRC)的检测算法复杂度较低,但性能是次优的;此外,许多检测方案或基于压缩感知原理,或基于球形译码设计,获得了复杂度和性能的折中。不同于已有研究工作,本论文利用神经网络模型进行接收机检测设计,通过构建深度去噪神经网络模型提高空间调制接收机检测的可靠性,同时兼顾系统复杂度。本文的主要研究工作和创新点如下:1)基于深度去噪自编码器的空移键控(Space Shift Keying,SSK)检测算法研究——空移键控是最经典的空间调制设计方案,这一方案仅使用天线序号携带比特信息,接收机需要恢复相应的天线序号。本论文构建了一个深度去噪自编码器,重构接收机带有高斯白噪声的数据。为了兼顾检测的时间复杂度,本文对重构的数据在维度上进行分组,并利用组内距离的均值提出了自适应阈值,逐步缩小搜索空间,在保证搜索精度的同时提高检索效率。仿真结果表明,本模型去噪性能显著,模型收敛效果较好并稳定,在不同的天线配置、不同的信噪比条件下都有着良好的鲁棒性。2)基于深度去噪神经网络的空间调制检测算法设计——空间调制系统的接收机既要估计天线序号,也要恢复调制符号。本论文首先将复信号和调制符号分解为实数数据,构建了一个深度去噪神经网络,利用带有噪声的数据作为模型的输入,将天线的序号和调制符号进行组合,得到对应的标签,再进行模型训练,本模型通过优化分类误差和重构误差的联合损失形式,端到端地训练模型,降低了噪声对网络性能的影响。仿真实验结果表明,基于深度去噪神经网络的检测算法在不同天线数目设置、不同信噪比条件下的鲁棒性强,能够显著地提高重构数据信噪比,获得了优于MRC的性能。