星地混合OFDM通信系统结合了卫星通信“覆盖范围大”和地面移动通信“通信质量高”的优点,用户终端可根据其所处的环境接入卫星或地面网络,可以实现高速移动通信网络的全天候畅通与全地域覆盖,满足各类用户对泛在高速移动通信网络的客观需求。用户终端与卫星或地面基站进行通信时,无线电波会受到多径效应的影响而发生频率选择性衰落,从而严重影响信号传输质量。为此,我们需要通过信道估计获得精确的信道状态信息,用于接收机的信道均衡与相干解调,以保证信号的传输质量。目前OFDM系统的信道估计通常是在频域上进行的,需要在其子载波上周期性的插入大量导频才能有效探测信道衰落,导频开销较大,系统资源利用率较低。然而,大量实验已经表明实际的无线信道在时域上具有一定的稀疏特性,卫星信道的稀疏性强于地面信道,且宽带系统的稀疏特性更加明显。随着无线通信系统向着宽带化发展,对稀疏信道估计的研究已经成为新的焦点。近年来提出的压缩感知理论可以根据少量测量值高效率的重构原始稀疏信号,这为稀疏信道估计提供了强大的理论支撑。本文主要研究基于压缩感知的信道估计方法,提出能够高效探测信道的导频图样的优化设计方法,设计能够快速重构信道状态信息的恢复算法,并统筹考虑探测效率与恢复速度,提出适用于星地混合OFDM通信系统的高效快速的信道估计方案。该方案能够充分利用无线信道固有的稀疏特性,用少量的导频即可完成信道估计,并且可以根据用户终端所处的实际信道环境对导频数量进行自适应调整,保证系统频谱利用率的动态最大化,能够为实现星地子系统间透明的空中接口提供技术支撑,具有一定的理论意义和工程应用价值。本文的具体研究内容及其目标如下：第一,压缩感知信道估计的数学建模。将信道估计问题与压缩感知理论相联系,建立了基于压缩感知的信道估计的数学模型。充分考虑实际无线信道的复杂性,选用随机分布的导频子载波探测信道、SLO(Smoothed l0-norm,平滑l0范数)算法重构信道状态信息,通过仿真实验对这种最基本的压缩感知信道估计方法的可行性进行了验证,并对其导频开销与估计性能进行了评估,为后续的深入研究提供了理论依据与数据支撑。第二,导频图样的优化设计方法。针对随机分布的导频仅能保证基本的信道探测效果、且难以在实际系统中应用的问题,提出了一种基于分布估计算法的导频图样优化设计方法。该方法以最小化感知矩阵的列相干为准则,将导频图样优化建模为一个组合优化问题,利用分布估计算法对导频的位置分布进行优化。仿真结果证明了该方法所设计出的导频图样在信道估计时表现的性能更好。此外,根据导频数量的不同,利用该方法能够设计出多种信道探测效果优异的导频图样,为不同信道场景下导频的自适应选择与调整提供备选的优质导频图样,从而为星地混合通信系统的高效信道探测提供有力支撑。第三,SLO算法的收敛特性分析。在详细介绍SLO算法原理的基础上,对其能够胜任稀疏信道恢复算法(即可快速重构近似稀疏的复信道冲激响应)的本质原因进行了理论分析。针对SLO算法中存在低效率迭代步骤的问题,利用渐进非凸原理对其迭代过程和收敛特性进行了深入的理论分析,得出了迭代步长长度可以实时反映当前所恢复出的信号质量、步长长度变化率可以实时反映当前算法迭代效率的重要结论,并通过数值实验对该结论进行了验证。该重要结论为后续两种改进SLO算法的提出,以实现高效的信道探测、快速的信道状态信息恢复提供了有力的理论保障。第四,星地混合系统的高效快速信道估计方案。根据上述SLO算法收敛特性,提出了两种改进算法,并进行了数值实验验证。其中,R-SLO(Recognition SLO,识别SLO)算法可以主动判定当前导频能否满足信道探测要求,为导频数量的确定提供参考依据；而T-SLO (Thresholded SLO,阈值SLO)算法可以加速恢复信道状态信息,为减少由信道估计引入的处理时延提供帮助。在此基础上,统筹考虑探测效率与恢复速度,提出了基于这两种改进SLO算法的适用于星地混合通信系统的高效、快速的信道估计方法：利用R-SLO算法确定探测当前信道所需的导频数量,从利用分布估计算法预先设计好的备选优质导频图样中选定对应的导频,对信道进行高效的探测；根据当前信道环境确定最合适的阈值控制T-SLO算法的迭代步骤,对信道状态信息进行快速的恢复。仿真结果表明,该方法以帧为单位不断的学习当前信道环境,能够自适应的用最合适的导频探测信道、用高效的迭代步骤重构信道状态信息,为系统节省了宝贵的频率和时间资源,有效的提升了系统的效率,从而实现了高效而又快速的信道估计,同时也可以为星地子系统间透明的空中接口提供技术支撑。