大规模MIMO技术被认为是5G移动通信系统的关键技术之一,能极大地提高系统的性能。由于收发两端天线数目的增加,在大规模MIMO系统中进行信道估计时需要大量的导频和反馈开销。因此研究如何减少大规模MIMO信道估计的开销有着重大的意义。本文围绕FDD大规模MIMO系统,研究了基于压缩感知的信道估计技术。首先,本文对压缩感知基础理论以及压缩感知在大规模MIMO信道估计中的应用进行了总结。简述了压缩感知中信号的稀疏表示,观测矩阵的设计以及常用的重构算法。并对压缩感知中常见的稀疏模型及对应的重构算法进行了详细的分析。分析了大规模MIMO信道的稀疏特性,确定了本论文围绕基于压缩感知的信道估计技术展开研究的方向。本文而后对基于时间相关信道的压缩感知CSIT估计和反馈进行了研究。首先对时间相关信道的稀疏特性进行了分析,利用上一时隙的信道信息辅助估计当前时隙的CSIT,考虑模型失配的问题,提出了改进的AMSP算法。仿真结果表明,提出的AMSP算法在保持较好的NMSE性能的同时对模型失配有较好的鲁棒性。之后本文研究了大规模MIMO信道中的分布式压缩感知技术。首先分析了多用户FDD大规模MIMO系统下的信道稀疏特性,重点研究了单用户内的信道稀疏结构以及多用户间的联合稀疏结构。针对实际情况,研究了导频及反馈资源自适应调整的闭环反馈算法,基于SA控制算法提出了改进的ESA控制算法以及RCMF算法。仿真结果表明,JOMP算法在导频长度较短时即有较好的NMSE性能,JOMP-ESA算法和JOMP-Rand算法具有良好的收敛性能。最后本文研究了用户分组后的压缩感知CSIT估计技术。利用联合空分复用技术实现用户分组,研究了用于用户分组的相似度测量方法和聚类方法。重点研究了分组后同一组内用户信道存在的联合稀疏特性,利用压缩感知减少CSIT估计所需的开销。仿真结果表明基于WLD相似度测量方法和K-means聚类方法的用户分组方法能够有效地对大量用户进行分组,利用同组内用户信道的联合稀疏特性,通过压缩感知进行信道估计能够有效减少CSIT估计所需的导频和反馈开销。