协同通信技术作为抵抗无线信道衰落、减少信号畸变的一种有效方法，是近年来研究的热点领域之一，并有望成为未来无线通信的主流技术。在协同系统中，用户通过共享彼此的天线形成一个“虚拟”的天线阵列，在不增加系统资源的情况下能够获得空间分集增益，协同中继系统具有对抗多径衰落、提高系统容量和频谱效率等优点。协同通信中的资源分配、目的节点处数据的分离与处理等，都需要信道状态信息(Channel State Information，CSI)，因此，信道估计的准确性是系统整体性能优劣的关键。本论文主要研究协同中继系统中的信道估计问题，针对两个终端节点经由中继节点而形成的级联信道进行估计。级联信道的特性不同于点对点通信系统的信道，基于点对点系统信道估计的研究成果不能照搬使用，所以需要对其进行深入地研究。传统的信道估计算法大部分是基于信道密集多径的假设，信道测量技术的研究成果表明，多径信道的抽头系数在高维空间往往表现为稀疏分布，即，信道的抽头系数大部分为零或者接近于零。基于稀疏结构的信道估计，需要较少的训练序列，能够最大化地提高频谱利用率。　　本文以压缩感知理论为工具，对协同中继系统的稀疏信道估计问题进行了研究，全文主要研究内容与创新点归纳如下:　　1.研究基于压缩感知的单中继单天线协同OFDM系统的稀疏信道估计方法。协同系统可以有效对抗多径衰落，但是对于频率选择性衰落能力有限，而正交频分复用(Orthogonal Frequency-Division Multiplexing，OFDM)技术在克服频率选择性衰落方面有很好的表现，二者的结合可以提高系统的整体性能。本文从压缩感知的观点出发，结合单天线单中继协同系统信道的特点，在放大转发的模式下，建立稀疏中继信道模型，设计最优训练序列并构建最优观测矩阵，用非线性算法估计出信道状态信息。研究表明，使用较少的训练序列，可以达到与传统信道估计方法相比拟的估计性能。本部分内容是后续研究得以进行与扩展的基础。　　2.研究多天线单中继协同通信系统的压缩信道感知算法问题。针对多天线单中继协同通信系统，本文在放大转发模式下分别研究单向中继网络(One Way Relay Network,OWRN)与OFDM双向中继网络（Tne Way Relay Network，TWRN）的信道估计问题。首先，建立多链路中继信道的稀疏模型;在此基础上，根据高维信号空间更加稀疏的观点，分析系统的稀疏度与性能下界之间的关系;然后，基于压缩感知的重建算法，对多链路信道进行非线性算法的重构，仿真证明了算法的有效性。此部分研究可为挖掘协同系统多链路信道的稀疏结构提供参考。　　3.研究稀疏度自适应的协同通信系统信道估计算法问题。协同中继系统稀疏信道估计的算法，大多是基于信道稀疏度先验已知的假设，对于实际的通信系统，信道的稀疏度是未知的。因此，在进行信道估计时获取准确的信道稀疏度尤为重要。在此背景下，本文提出两种自适应稀疏度的信道估计算法。针对单中继单天线系统，提出基于自适应LMS算法的稀疏信道估计方法，在标准LMS算法代价函数中引入稀疏约束项，通过自适应滤波和最小均方估计算法可实现系统的稀疏度辨识与稀疏信道估计;针对时变单中继多天线信道，提出基于期望最大化(Expectation Maximization，EM)的自适应压缩信道感知算法，也就是压缩感知和EM算法相联合的协同信道的最大似然估计算法。由于最大似然估计是一种无偏估计，可以达到克拉美罗界。在处理较高维数的数据时，期望最大化算法是一种迭代求解最大似然估计的有效机制，可以在不涉及迭代步长的情况下，计算信道参数的最大似然估计。