随着通信领域的发展,5G技术已经开始进入商用化,多输入多输出(MIMO)技术成为5G系统最具潜力的核心技术。对于信号检测算法,采用MIMO技术会带来复杂度大幅度增长的问题,因此研究具备低复杂度、高检测性能的MIMO信号检测算法成为通信领域的研究热点,而现代无线通信系统产生海量的无线大数据,为利用深度学习解决信号检测问题提供了数据来源。本文主要对基于深度学习的MIMO信号检测进行研究,提出了兼顾高检测性能和低复杂度的数据序列检测算法。本文基于对国内外研究现状的分析,通过引入信道的时间相关性,将MIMO信号作为数据序列进行检测,并且进一步引入信号反馈机制,将已解码信号作为待恢复信号的先验特征,利用循环神经网络对数据序列的处理优势,结合软注意力机制提出了数据序列检测算法(Data Sequences Detection Net,Dsd Net)。Dsd Net检测算法不需要依赖信道状态信息,提高了信号传输效率,并且能够适应通信中信道环境的改变,实现对数据序列的检测。仿真实验证明了Dsd Net检测算法具备良好的检测性能。基于Dsd Net收敛时间长与泛化性能不高的问题,本文进一步对Dsd Net进行改进,提出了基于DseNet(Data Sequence Encoder Net)的信号检测算法,主要改进点如下:(1)DseNet通过使用能够高度并行训练的自注意力机制代替循环神经网络,在提取数据序列时间相关性的同时显著地加快了网络的运行速度。(2)引入自动编码器的方法,通过采用Encoder-Decoder网络实现对数据序列的检测,并且通过构建深层网络并引入残差连接,实现对信号的复杂特征提取。(3)此外,DseNet进一步通过迁移学习的方法,使算法能够对不同场景下的移动通信信号进行实时检测,提高了模型的泛化性能。通过仿真实验,对各个算法的检测性能和复杂度进行对比分析,证明了DseNet数据序列检测算法的迁移学习能力,以及算法的可行性与鲁棒性。