随着虚拟现实技术,无人驾驶技术,物联网以及高清视频,远程医疗等技术的飞速发展,4G网络在通信容量以及传输速度上已经不能满足人们的需求。因此,5G通信技术应运而生。在5G技术的研发与推进过程中,Massive MIMO技术因其庞大的天线数量以及空间波束复用特性可大幅提升通信系统容量而成为5G通信技术中关键技术。要想实现Massive MIMO的巨大优势,对信道状态信息(Channel State Information,CSI)的准确获取便显得至关重要。然而由于Massive MIMO系统庞大的天线数量,使得信道维度急剧增加,传统的信道估计方式会产生巨大的导频开销并使计算复杂度成倍增加。因此需要探寻新的有效的信道估计方案。近年来压缩感知理论的由于其对稀疏信号的良好压缩已经准确的重构性能,并且在信号处理等多领域的广泛使用,考虑信号具有稀疏性的特点,使压缩感知理论为Massive MIMO信道估计提供了新的方案。本文针对基于压缩感知的Massive MIMO信道估计的研究,主要做了如下工作:首先,本文研究了压缩感知理论,压缩感知算法,分析了传统的信道估计算法的不足。并通过研究压缩感知算法,针对实际中信号的稀疏度未知,以及由于不同的固定步长会影响压缩感知算法的重构精度,并结合相近算法优势,提出一种基于改进的变步长正则回溯SAMP算法(YSAMP)的Massive MIMO信道估计方案。该算法不需要将信号的稀疏度作为已知条件,且能根据算法每次迭代的结果自适应调整步长,以保证能在相对较低迭代次数下收获相对较高的重构精度。并通过MATLAB从计算复杂度以及重构精度上进行仿真,与同类算法进行比较,仿真结果表明该算法在Massive MIMO信道估计中的优势。其次,在上述研究的基础上,考虑Massive MIMO移动通信过程中受到阴影衰落,大小尺度衰落以及噪声等对发送信号的影响而造成信号严重畸变从而降低了信道估计的精度。并且分析现有压缩感知算法中并未对信号进行有效的降噪处理,本文提出降噪回溯SAMP算法(NrSAMP)。在多小区,多用户的Massive MIMO信道场景中利用该算法进行信道估计,并利用此算法与其它改进算法在重构精度上进行必较,从而证明该算法在同等条件下能够获得更好的精度。因此,说明该算法具有实际意义。