随着物联网、云计算、车联网等新兴领域的飞速发展,人们对无线通信网络的传输速率、解码实时性、应用灵活性和终端高移动性的要求进一步提高。以空口波形设计为核心的调制解调技术是无线通信网络的重要部分,对无线网络的上述性能起到关键性支撑作用。正交频分复用(OFDM)作为一种经典的多载波波形方案具有抗多径衰落性能优异、实现复杂度低等优势,在无线通信领域得到广泛应用。但是,面向5G或后5G(B5G)应用的需求,OFDM却存在如下局限性:时域信号矩形加窗带来的带外能量泄露(OOBE)高和传输频带内统一的子载波间隔带来的应用灵活性不足等。针对上述OFDM波形的缺陷,如何设计新的波形方案以支撑5G/B5G多样化应用场景的需求,具有重要理论意义和应用价值。本文在比较研究现有5G/B5G多载波波形方案的基础上,针对传统OFDM方案的不足,提出了一种非均匀子带叠加的传输方案,该方案各子带根据不同应用场景的需求可以荷载单载波或多载波波形。具体研究内容和主要贡献如下:第一,针对当前5G/B5G多载波方案应用灵活性和计算复杂度不能很好折中的问题,提出了可变粒度(VG)资源分配模型和非均匀子带叠加的OFDM(NSSOFDM)方案。根据业务需求将传输频带划分成若干独立的子带,每个子带参数独立配置,进而建立了基于VG分配模型的异步传输架构,可以满足移动大数据时代通信多样化应用的需求。当子带荷载多载波波形时,基于VG资源分配模型,提出了NSS-OFDM方案,并创新性地设计了时域叠加与多级滤波的子带信号生成方法,有效抑制了OOBE,在满足灵活性的同时降低了计算复杂度。第二,由于NSS-OFDM系统的子带信号具有较低的OOBE,子带之间的FGI开销可以忽略不计。本文利用该特征,设计了一种提升传统OFDM系统频谱效率的方法:把传输频带划分为多个子带,每个子带信号设计相同的调制参数,通过分析系统的频带利用率和边缘保护带开销、子带划分个数之间的关系,获得一种最优的子带分配方案,在增加一定计算复杂度的前提下,大大降低了传输频带两端FGI的开销,以此提高了频带利用率。将本方案应用于4G长期演进计划(LTE)、数字地面多媒体广播(DTMB)和欧洲数字地面电视广播(DVB-T)标准中,系统的频带利用率达到99%左右。第三,针对超高速移动场景稳定接收这一挑战性问题,深入分析了基于经典离散导频结构下信道估计算法的性能极限,并提出了一种改进的信道内插算法。该算法基于最小均方误差准则估计内插系数,然后利用更多的导频信息估计数据处的信道值,有效提高了信道估计精度。为了适应车联网、高铁(相对移动速度为500 km/h)等超高速移动场景,提出了一种基于块状导频的时域信道估计算法。该算法利用Slepian序列分段内插出数据符号处的信道冲激响应,提高了信道估计精度,可以很好地满足超高速移动场景的需求。第四,针对超高速移动场景下传统信道均衡算法解调性能差的问题,利用每个子带带宽较小的特性,提出了一种低复杂度的子带判决前馈和反馈均衡器(SDFFE)算法,并在单天线和多输入多输出NSS-OFDM系统中进行了研究。该方法利用子带的过采样信息可以同时获得多普勒分集和多径分集增益,有效降低了NSS-OFDM系统的BER,极大改善了超高速移动场景下系统的解调性能。另外,由于SDFFE算法的计算复杂度和快速傅里叶变换(FFT)点数有关,通过子带划分,子带带宽减小,降低了每个子带FFT点数,进而降低了SDFFE算法的计算复杂度。第五,针对低功耗应用场景,某些子带荷载单载波波形,称为非均匀子带叠加的单载波(NSS-SC)方案。为了进一步提升NSS-SC系统的数据传输速率,本文提出了一种基于功率域信息辅助的分离接收机结构。该结构利用射频功率分离器把接收信号分成两路,然后这两路信号分别进入相干接收机和非相干接收机,最后联合进行信息检测。通过添加非相干接收机这一支路,分离接收机可以额外获得功率域的自由度,使得系统的可达速率优于只有相干接收机或非相干接收机方案。基于该分离接收机结构,研究了互信息的联合处理增益和低复杂度的信号检测方案。通过理论分析和实验表明,相对于传统的相干和非相干接收机结构,分离接收机有效提升了系统的传输速率。