基于滤波器组的多载波实现技术,可以有效解决带外功率泄露的问题,并且能够支持灵活的频谱接入方式,是一种新的物理层传输技术,它已经成为认知无线电以及未来5G通信的候选物理层传输技术之一。本文针对基于滤波器组的波形优化技术以及同步技术做了深入、细致的研究,提出了一系列的算法来提高带外干扰抑制的能力以及同步的性能。首先,本文介绍了认知无线电、5G以及滤波器组多载波技术的研究价值以及发展历程,并介绍了滤波器组多载波调制解调的相关理论基础。其次,本文研究了基于滤波器组的波形优化设计技术。针对单载波通信系统,重点讨论了利用成型滤波器抑制邻道干扰的方案,并给出了如何利用半带滤波器来降低实现的复杂度。针对传统的OFDM系统,详细讨论了利用加窗、加双窗、设置保护频带以及插入消除子载波等方式抑制带外功率泄露的优缺点,并针对230MHz专网抑制带外干扰的应用场景,重点研究了加窗方法中窗函数类型以及窗长度对邻道干扰抑制性能的影响。在此基础上,本文讨论了GFDM系统中邻频抑制的相关技术,包括设计具有较窄过渡带的原型滤波器、设置保护频带、加保护符号等,对比了GFDM系统与OFDM系统的带外功率泄露的性能,并给出了相应的仿真结果与分析。随后,本文研究了同步系统设计的问题,针对这一问题给出了一些具体的解决方案。首先讨论了单载波系统中基于前导的同步技术,研究了包括同步序列的选取、粗定时同步、小数倍频偏的估计及纠正、定时偏差的估计及纠正、精确定时同步、整数倍频偏的估计及纠正以及相位跟踪等在内的具体实现,并给出了仿真性能。在此基础上,讨论了GFDM系统中同步实现的难点,并给出了具体的同步实现方案,包括前导序列的设计、粗定时同步、频偏估计及纠正以及残余相差的估计及纠正,并针对230MHz专网的情景给出了相应的仿真性能。最后,针对230MHz专网的应用场景,本文给出了对应的GFDM系统的邻道干扰抑制和同步技术的硬件设计与实现。首先,基于Simulink和任意波形发生器的硬件平台,验证了GFDM邻道抑制的性能。其次,在由AD9361射频子卡、Xinlinx KC705开发板以及Simulink构成的通信平台上,验证了经由无线空间传输的GFDM同步技术。