毫米波技术作为5G通信技术的关键技术之一,可以提高通信系统的系统容量,缓解频谱资源压力。有效发挥毫米波的频谱资源优势,准确地获取毫米波系统的信道信息（Channel State Information,CSI）至关重要。由于毫米波独特的衰落特性,需要对其新的信道估计方法进行研究。本文针对毫米波系统及其信道估计算法,主要进行了以下研究:（1）研究毫米波的传输特性及适合其系统的收发机结构,并建立毫米波系统和毫米波稀疏信道的数学模型。（2）研究毫米波稀疏信道估计问题和压缩感知稀疏重构问题,将压缩感知理论应用于信道估计,通过仿真对比,压缩感知算法更适用于毫米波系统的高维度稀疏信道估计。（3）提出一种反馈再选择的压缩感知信道估计算法。针对同类算法重构速度和重构精度不能兼顾的问题,所提Ts-StOMP算法引入反馈思想,提高估计精度,并利用Sigmoid函数建立仿真次数与选取原子数目的非线性关系,实现大步长快速接近,小步长逼近的目的。仿真结果表明,Ts-StOMP算法提高了估计精度与估计速度。（4）提出一种稀疏度自适应的压缩感知信道估计算法。针对所提Ts-StOMP算法在对不同稀疏度毫米波信道估计时的自适应能力不足,利用PSO算法的寻优能力,实现在不同稀疏度时,输入与之对应的最佳门限参数,以提升算法估计性能的目的。仿真结果表明,所提算法能够自适应稀疏度且提升了估计性能。