滤波正交频分复用(Filtered Orthogonal Frequency Division Multiplexing,F-OFDM)是为了满足5G(Fifth Generation)更高的通信要求而产生的一种新型的多载波调制技术。F-OFDM系统是在OFDM系统的基础上添加子带滤波器,子带滤波器的设计会影响系统的实现复杂度、子带带外功率泄露水平,因此子带滤波器的设计是F-OFDM系统研究重点,但是目前的子带滤波器设计存在无法根据通信场景灵活调整滤波器参数的问题。同时,F-OFDM系统在受到载波频率偏移(Carrier Frequency Offset,CFO)时,会产生子载波间干扰(Inter Carrier Interference,ICI),严重影响系统性能,但是目前仍未有F-OFDM系统ICI消除方面的研究,因此本文以F-OFDM为研究对象,对子带滤波器设计以及ICI消除两个方面进行了研究。首先,针对目前子带滤波器无法根据通信场景灵活调整滤波器参数的问题,本文提出基于凯塞窗的窗函数法设计F-OFDM子带滤波器,本文所设计的滤波器,可以根据不同的通信需求,通过调整滤波器的长度N和控制窗函数形状的参数β,调整主瓣宽度及旁瓣幅度之间的平衡,克服了其他子带滤波器,当选定具体的窗函数后,无法更改阻带衰减的缺点,具有更强的灵活性。其次,针对CFO会对原始F-OFDM的可靠性造成显著影响的问题,在分析了F-OFDM系统产生CFO的原因及整数倍及小数倍频率偏移对F-OFDM系统造成的影响的基础上,本文提出了 F-OFDM系统MCSR(Mirror Conjugate Symbol Repetition)ICI自消除算法。通过将互为共轭关系的符号映射到镜像对称的子载波上,利用接收信号干扰系数互为共轭的关系,降低CFO及IQ不平衡对F-OFDM系统造成的ICI干扰。仿真结果表明,在AWGN(Additive White Gaussian Noise)信道下,所提出的F-OFDM的镜像对称共轭(MCSR)干扰自消除算法相比于其他ICI自消除算法,其误比特率(Bit Error Ratio,BER)性能与载波干扰功率比(Carrier to Interference power Ratio,CIR)性能均优于其他方案。最后,针对ICI自消除算法随着CFO频偏越来越大,系统的误码率性能无法被明显改善的问题,本文提出了两种改进的MCSR算法。第一种基于时域频偏估计的改进算法,利用F-OFDM系统CP(Cyclic Prefix,CP)与其重复部分的相关性,在时域进行频偏估计,直接将估计的频偏反馈回接收端,进行频偏校正。第二种基于频域频偏估计的改进算法在接收信号经过FFT变换后,利用镜像对称子载波上的发送数据互为共轭的相关关系,估计出系统的载波频偏。将估计出来的载波频偏反馈到系统的接收端,对接收端信号进行相位补偿。仿真结果表明,本文所提改进算法与未改进的方法相比,虽然提高了系统接收端的计算复杂度,但是降低甚至抵消了载波偏移造成的ICI。