作为 4G 中的空口方案,正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)技术能够以较低的实现复杂度有效对抗多径衰落。然而,OFDM有着包括对载波正交要求高从而对频偏敏感、引入CP导致的频谱效率不高、子载波使用未成型造成的较高的带外功率辐射等缺陷,不能满足下一代通信需求。基于滤波器组的多载波技术(Filter Bank Multi Carrier,FBMC)是一种频谱效率高、实现复杂度较低多载波传输方案。FBMC在收发两端对每个子载波用具备良好时频聚焦特性的原型滤波器进行成型滤波,能有效对抗ISI和ICI。在省去CP提高频谱效率的同时,FBMC的带外衰减迅速,无需额外的带外抑制处理。然而,FBMC也有着高峰值平均功率比(Peak-to-Average Power Ratio,PAPR),相邻符号彼此重叠以及由于原型滤波器仅满足实数正交引起的系统内部固有虚部干扰等问题。因此FBMC系统的PAPR抑制和信道估计比OFDM更加复杂。FBMC中原型滤波器在时域上持续若干个符号时间导致相邻符号的时域信号彼此重叠,这使得传统OFDM中的PAPR抑制技术不能直接应用于FBMC系统。本文主要针对部分传输序列(Partial Transmit Sequence,PTS)方法进行FBMC的PAPR抑制研究。文章先定义了互补累积密度函(Complementary Cumulative Density Function,CCDF)来衡量 PAPR 超过给定能量阈值的概率。接着分析得出PTS方法的核心是寻找最佳的旋转相位向量使得FBMC时域信号峰值达到最小。为此本文研究了几种基于多数据块联合PTS方法来抑制FBMC信号的PAPR。本文最后提出一种改进的PTS方法,该方法以较低的实现复杂度达到了接近理论最佳方法的性能。另一方面,基于导频的信道估计方法非常经典且实现简单。其通过在发送端设定的位置发送已知的符号并在接收端进行恢复进而估计出信道响应值。本文主要针对基于导频的信道估计方法进行研究。导频方法根据自身结构特点分为离散导频和块状导频,这其中又根据对导频的处理策略各自分为几种估计方法。在块状导频结构的干扰近似法(Interference Approximation Method,IAM)中,本文提出一种基于EIAM-C的导频结构,该导频结构在保证其估计性能较好的前提下极大地降低了IAM方法中信号峰值过大的问题。在基于空间复用的MIMO-FBMC系统信道估计方面,本文以2x2的收发天线数为例将单天线中的方法进行扩展。其中为了解决编码辅助导频法(Coded Auxiliary Pilots,CAP)中导频的干扰计算区域与其他导频编码区域重叠的问题,本文提出一种基于迭代的CAP方法,该方法有效消除了导频受到的虚部干扰,从而提升了信道估计性能。