多输入多输出(Multi-input Multi-output,MIMO)技术被认为是在无线通信发展历史中最为关键的技术之一,并且也被广泛认为是推动第五代移动通信系统发展的关键技术之一。通过在信号发送端和接收端都配置多根天线,MIMO通信系统可以在不需要增加额外信道带宽的情况下,提高频谱效率和信道容量。然而,随着发射天线和接收天线的数量的增加,信号检测算法的计算复杂度也会随之提高,这一问题限制了MIMO通信的发展。通常,一个高效的MIMO信号检测算法应在检测性能和计算复杂度之间取得平衡。因此,本论文在原有的MIMO信号检测算法的基础上,努力探索出一种复杂度低且检测准确度相对较高的检测算法。近年来,随着深度学习技术的发展,深度学习技术因其在信号调制识别,资源分配和物理层设计等通信领域问题的突出表现,引起学者们了极大的关注。然而,上述大部分研究都基于数据驱动的深度学习技术解决问题,这种方法将通信系统视为黑盒子并通过使用大量数据来训练网络。为了减少对数据和训练时间的需求,本文介绍了基于模型驱动的深度学习方法。基于模型驱动的深度学习方法基于通信领域知识构建网络。本论文首先研究了基于因子图的近似消息传递(Approximate Message Passing,AMP)MIMO信号检测算法。然后,利用模型驱动的深度学习方法提出了AMP-Net,具体过程为将迭代AMP检测算法展开为逐层连接的类神经网络的网络结构,并在每层中添加可训练参数。结合训练数据,利用深度学习技术中的小批量随机梯度下降方法调整每一层中的参数。仿真结果表明,AMPNet从检测性能、算法收敛速度都远远优于AMP检测算法。