大规模多输入多输出(MIMO，multiple-input multiple-output)和毫米波通信技术由于能够提供更大的带宽，显著提升通信容量，在第五代(5G，5th generation)移动通信系统中起着至关重要的作用。但是在毫米波大规模MIMO接收机中大量的射频链和高精度的模数转换器(ADCs，analog-to-digital converters)会造成巨大的功率消耗，其中ADC的功耗大致随带宽呈线性增长，随量化比特数呈指数增长，因此在接收机中采用低精度量化的ADC是一种有效降低功耗的解决方案。然而，由于低精度量化所产生的严重非线性失真会对接收机获取准确的信道状态信息(CSI，channel state information)带来挑战。本文针对低精度量化的毫米波MIMO系统信道估计方法展开研究，旨在尽可能提高估计性能、降低所需要的导频开销，主要包括基于统计学习和基于深度学习的信道估计方法。
　　首先，本文研究毫米波MIMO系统信道估计的方法基础。一方面，由于毫米波信道所表现出的稀疏分布特性，很多估计方法都是基于压缩感知(CS，compressive sensing)理论提出的，本文研究了CS的基本原理，然后调研了CS在大规模MIMO信道获取中的应用现状。另一方面，贝叶斯定理是许多迭代稀疏信号恢复算法运行的根本，它们通过推断信号的后验概率分布完成信号重建，本文进一步探索几种了基于贝叶斯推理框架的信号恢复算法，理解了置信传播(BP，belief propagation)算法、近似消息传递(AMP，approximate message passing)算法、期望传播(EP，expectation propagation)算法的基本原理和算法步骤，并分析了它们的优缺点和适用条件。
　　接着，本文提出了基于统计学习的毫米波低精度量化MIMO系统信道估计方法。介绍和分析了毫米波信道的建模和稀疏特性，描述了基于低精度ADC的毫米波MIMO系统接收机数学模型。随后提出了两种解决方案，分别是基于广义近似消息传递(GAMP， generalized AMP)算法的信道估计和基于广义期望一致信号恢复(GEC-SR，generalized expectation consistent signal recovery)算法的信道估计。引入了拉普拉斯先验分布对角度域毫米波信道系数进行建模，分别在GAMP和GEC算法中植入期望最大化(EM， expectation maximization)算法学习先验分布中的未知参数。仿真结果表明，在拉普拉斯先验下两种算法的归一化均方误差(NMSE，normalized mean-square error)性能相比于高斯混合(GM，Gaussian-mixture)先验均有明显提升，并且GEC算法在正交DFT(DFT， discrete Fourier transform)导频下能够显著减少所需的导频长度。
　　最后，本文研究了基于深度学习的毫米波低精度量化MIMO系统信道估计方法。鉴于深度神经网络在挖掘未知的信道分布特征信息方面具有显著优势，提出了基于模型驱动深度学习的LDGAMP(learned denoising GAMP)信道估计方法。将用于去噪的卷 积神经网络(DnCNN，deep denoising convolutional neural network)嵌入GAMP算法框架中，代替了原来的最小均方误差(MMSE，minimum mean-square error)估计器。仿真结果表明，LDGAMP信道估计方法表现明显优于先进的基于统计学习的迭代估计算法，并且即使采用很少的导频长度其NMSE性能也能保持良好。最后对DnCNN在不同的毫米波信道波束簇和子路径数目下的性能进行了探索，表明其具有很好的鲁棒性。