正交频分复用（OFDM）是第四代移动通信系统中的关键技术。它通过正交的子载波来复用信道，提高数据传输速度。OFDM系统中，对信道特性及时、准确的估计是接收机正确接收信息的保证。传统的信道估计方法中，在已知部分传送信息（如导频符号）的情况下，利用最小平方误差（LS）、最小均方误差（MMSE）、变换域等算法可以对信道冲击响应进行较为准确的估计，但却需要较多的传送载荷开销，造成信息传输效率的下降，因此并不能满足下一代移动通信系统对高速高效的要求。针对这一问题，理论界提出了根据信道冲击响应的时域稀疏性，利用压缩感知理论进行信道估计，以降低估计载荷开销的方案。然而已知的基于压缩感知的信道估计算法受到信道噪声的影响很大，在低信噪比条件下的性能并不理想。基于此，本文尝试研究了OFDM通信系统中进行压缩感知信道估计的性能，并着重研究了提高压缩感知信道估计在低信噪比下性能的技术。主要内容和取得的成果如下：首先，在分析了无线信道的基本特性和OFDM系统中的关键技术和模型的基础上，研究了将压缩感知应用于OFDM信道估计的系统模型，将压缩感知引入OFDM信道估计，提升了信道估计性能。研究了影响压缩感知信道估计性能的因素，获得了有关结论。然后，在压缩感知信道估计的基础上引入贝叶斯压缩感知的理论，利用对信道稀疏特性的先验假设和后验概率估计提高信道估计算法的抗噪能力。研究了利用贝叶斯压缩感知建立OFDM信道估计的系统模型的方法，以提高低信噪比条件下的信道估计性能。研究了在高斯二项先验假设下的频率选择性OFDM信道贝叶斯压缩感知估计性能，实现了这种先验假设下的参数求解；提出了快速贝叶斯自适应匹配追踪算法，扩展了算法适用范围。最后，根据贝叶斯压缩感知的特性，提出了一种适用于贝叶斯压缩感知的导频设计方案，提升了低信噪比条件下的信道估计性能。在这种导频设计方案中，利用了贝叶斯信道估计算法和信道信息的先验假设，选择了最大后验概率为迭代原子，设计了快速查找算法，并通过仿真验证了所提方案的优越性。