在未来无线通信系统中，中继技术是有效提升无线通信系统整体性能的关键技术之一，而信道估计技术不论是在基于中继站的OFDM系统还是MIMO系统中都有着重要的意义，如为了实现协作处理的预编码，接收信号相干解调等都必须获得准确的信道状态信息。本论文首先总体地研究分析了中继增强型通信系统中的信道估计技术和传统信道估计的不同点，然后分类研究分析了DF中继通信系统中的信道估计技术，单天线AF中继通信系统中的信道估计技术，最后提出了多天线AF中继通信系统中的信道估计方法。论文主要工作如下： 1、研究了移动通信信道模型，包括信道统计特性，常用信道模型，以及一般TDL模型和MIMO简单信道模型的仿真实现方法，然后详细论述了802．16j标准中中继相关的帧结构。 2、研究分析了DF中继增强型通信系统中的信道估计方法。第一是考虑中继站引入的延时因素时导频辅助LMMSE信道估计算法的改进。第二是多中继站分布式通信系统中基于训练序列符号的ML信道估计算法，重点在于带有所有中继站功率限制条件的训练序列优化设计问题。从误符号率和误比特率性能指标分析了算法性能。 3、研究分析了单天线AF中继增强型通信系统中的信道估计方法。第一是中继站的移动性和增益可变性对系统性能的影响及相应导频辅助的LMMSE信道估计算法的公式推导。第二是单中继站协作通信系统中两种估计策略即直接估计两跳等价信道的C-CE和分别估计两跳信道的D-CE之间的性能比较，以及D-CE策略中用于后向信道估计值反馈的GLA量化比特数的取值分析。第三是多中继站分布式通信系统中采用直接两跳信道估计策略的基于训练符号的信道估计器的设计及其训练序列优化设计问题。分别研究分析了LS和MMSE信道估计算法中优化对应训练序列以及预编码矩阵的凸优化过程及其解形式，通过仿真给出了性能分析。 4、提出了多天线AF中继增强型通信系统中的信道估计方法，研究分析了中继站采用STBC编码的信号传输过程及LMMSE算法的公式推导，并给出了仿真结果和性能分析。