作为5G新波形技术的重要候选方案之一,滤波器组多载波(Filter Bank Multicarrier,FBMC)技术受到了广泛的关注。相比正交频分复用技术(Orthogonal Frequency Division Multiplexing,OFDM),它采用了具有良好时频局部化特性(Time Frequency Localization,TFL)的新型滤波器,无需循环前缀就能很好的抵抗干扰,同时还具有频谱效率高、带外泄露低等优点。但是这些优势都以放宽子载波正交条件为代价,从而给系统带来了无法消除的固有干扰。因此,与OFDM比,FBMC系统的信道估计与信道均衡技术更加复杂。基于以上原因,论文对FBMC系统的信道估计与信道均衡技术进行了深入研究。首先研究了FBMC的信道估计技术。频域信道估计方面,研究了以置零法和干扰抵消法为代表的干扰消除法、以干扰近似法(Interference Approximation Method,IAM)为代表的干扰利用法和以成对导频(Pair of Pilots,POP)法为代表的干扰规避法。其中,IAM方法估计性能最好,POP法估计性能最差,且由于对信道进行了近似等效,此三种估计方法均存在性能瓶颈。时域信道估计方面,着重研究了线性最小均方误差(Linear Minimum Mean Square Error,LMMSE)时域估计和加权最小二乘(Weighted Least Square,WLS)时域估计方法。仿真结果表明,由于时域信道估计方法没有信道条件的限制,因此其估计性能优于频域估计方法。其次研究了FBMC的信道均衡技术,包括迫零(Zero Forcing,ZF)法、最小均方误差(Minimum Mean Square Error,MMSE)法和干扰消除均衡(Equalization with Interference Cancellation,EIC)算法。其中,ZF和MMSE方法均存在性能瓶颈,而EIC算法通过对系统的固有干扰进行消除,能获得比传统均衡算法更好的性能。本文对EIC算法进行了改进,提出了一种基于最小均方误差的干扰消除均衡(MMSE-EIC)算法,进一步提高了系统性能。仿真结果表明,改进算法优于原均衡算法,且通过不同次数的迭代,可使均衡性能得到进一步的优化。