由于采用优化的原型滤波响应,滤波器组多载波(Filter Bank Based Multicarrier,FBMC)的根本优点在于其优秀的频谱密度集中(或等价为旁瓣抑制)特性。由于对用户的同步要求较低,FBMC对于一些异步多用户场景非常有吸引力,如蜂窝系统的上行传输和感知无线电。基于上述背景,本文首先分析并推导了FBMC系统的数学模型,并对FBMC系统中的关键技术:同步技术、信道估计和峰均比(Peak-to-Average Power Radio,PAPR)抑制技术进行了研究分析。在符号定时同步技术上,分析了同步训练结构的生成方式,在信道估计技术上,分析了虚部固有干扰产生的原因,以及几种抑制虚部干扰的方法。为了克服FBMC系统存在PAPR较高的问题,本文提出了一种多数据块优化的部分序列传输(Improved Partial Transmission Sequence,IPTS)与载波预留(Tone Reservation,TR)的联合算法。根据FBMC符号的重叠特性,在传统的PTS算法上进行多数据块优化,并结合新型相位因子,在不增加边带信息的条件下保证了较低的PAPR。最后联合TR算法进一步抑制系统PAPR。通过理论分析和仿真实验结果,验证了IPTS-TR联合算法具有更优的PAPR的性能。其次,基于软件无线电平台完成FBMC发射机的搭建,分析研究GNU Radio软件平台,其中包括流图和模块的连接原理、自定义模块的编写和代码的调试方法。设计发射机总体框架,基于GNU Radio对发射机的关键模块进行设计与实现。最后,在对同步技术和信道估计的理论研究的基础上,设计一种可行的同步方案。该方案采用发射两个相同的训练序列进行符号定时同步,并且利用第二个训练序列进行信道估计。设计FBMC接收机整体框架,通过软件无线电平台,对接收机整体进行设计实现。完成FBMC发射机和接收机的设计之后,从算法功能模块的测试和系统总体性能进行测试分析,测试结果表明FBMC收发链路能实现物理层数据的发送和接收。