近年来,随着无线通信技术的迅速发展,人们对宽带无线通信的接入需求持续增长,原本有限的频谱资源就显得愈发拥挤。一方面,频谱供需的矛盾日益突出；另一方面,在当前的频谱管理策略下,已分配频谱的利用率又极其不足。因此,人们提出了认知超宽带技术,它结合了认知无线电智能化管理频谱的优势和超宽带技术高数据传输率、高保密性、低功耗、低成本等优势,有效地提高了频谱利用率。由于超宽带技术占用7.5GHz的频段,所以超宽带系统必须考虑在上述很宽的频带内和其它窄带无线通信系统的兼容性。通过及时关闭UWB系统中和窄带系统频率重叠的子载波,降低在重叠频段上系统的发射功率,实现和窄带系统的共存。本文提出了基于多项式干扰消除编码(PCC)的认知超宽带系统,把PCC技术引入到认知超宽带系统中,对子载波进行分组,对分组之后的子载波传输的数据按照多项式对应项的系数进行编码。并且从功率谱的角度分析了多项式干扰消除编码对关闭子载波形成的凹槽的影响,PCC技术加快了子载波组带外信号包络的衰减,通过直接关闭子载波达到了所需要的凹槽深度。并目,PCC-OFDM系统具有不需要循环前缀、对频率偏移不敏感、抗多径时延等优点,这在现实的信道传输中具有较强的实用性,同时这些优点在一定程度上也可以弥补由分组编码造成的频谱利用率的降低。此外,针对子载波加权造成的OFDM系统的峰均比较大,以及子载波分组编码会成倍降低系统频谱利用率等问题,本文提出了一种基于滤波多音调制的认知超宽带系统方案,利用滤波器组把子载波的频谱严格限制在规定的频段里面,子载波的旁瓣泄露非常小。该方案可以通过直接关闭相应干扰频段的子载波来大大降低认知超宽带系统在干扰频段上的发射功率,达到与窄带系统兼容的目的。分析和仿真结果表明,此方案比基于OFDM的认知超宽带系统在带外频谱控制及频谱利用率等方面更具优势。本文主要分为五章：第一章首先介绍了认知超宽带技术的基本原理和发展现状,然后说明了本文的研究意图和主要工作。第二章首先介绍了OFDM技术,在此基础上介绍了基于多带OFDM的认知超宽带系统,最后详细介绍了现有的频谱抑制方法。第三章详细介绍了基于多项式干扰消除编码的认知超宽带系统,首先介绍了系统的编码原理和实现方式。在此基础上介绍多项式干扰消除编码对加深频谱凹槽的影响,最后给出系统的仿真结果和结论。第四章介绍了基于滤波多音调制(FMT)技术的认知超宽带系统,介绍了FMT技术对认知超宽带系统频谱抑制产生的影响。第五章在总结全文工作的同时,给出了下一步的研究方向。