蜂窝系统中的同频干扰是制约系统性能提升的主要因素，有效抑制同频干扰是提高小区边缘用户数据速率和系统吞吐量的重要途径，因此近年来受到高度重视。正交频分多址接入(OFDMA)技术具有较高的频谱效率，而中继技术则能有效改善小区边缘用户性能，两者有机结合构成的OFDMA中继蜂窝系统近年来得到广泛而深入的研究，并且已经在3GPP LTE—A和IEEE802．16m等未来移动通信标准中得到广泛应用。基于此，本文开展了对OFDMA中继蜂窝系统中的同频干扰抑制的研究。　　 首先，简要介绍了OFDMA技术和中继技术的特点，回顾了单跳蜂窝系统和两跳中继蜂窝系统中主要的干扰抑制方法，并指出存在的不足。　　 其次，提出两种有效抑制同频干扰的蜂窝小区结构。第一种结构是扇区化覆盖的带有空间复用的多跳蜂窝结构(SMHSR)，利用扇区天线的定向辐射特性来降低基站和固定中继站引起的同频干扰。分析和仿真表明，SMHSR结构在保持较低中断概率的同时，还使系统的频谱效率、小区边缘移动用户的载波与干扰加噪声比以及满足服务质量的用户数显著提高。第二种结构是基于双层波束和中继共享(Bilayer Beams and Relay Sharing based，BBRS)的蜂窝结构，将扇区化覆盖和中继共享技术的优势进行了有机结合，达到了更好的系统性能。BBRS结构的主要特点是：(1)基站每个扇区都有两个波束，其中宽波束用于为小区中心附近的移动用户提供覆盖，窄波束用于与固定中继站通信，以尽量保证同频信号的空间正交性。(2)在相应的频率规划机制中，基站各扇区都能使用系统总频带的1/2，能达到较高的扇区容量；在固定中继站上进行了软频率复用，进一步提高了小区边缘用户数据速率和系统吞吐量。分析和仿真表明，BBRS蜂窝结构达到了频率复用密度和系统吞吐量之间的较好折衷。　　 本文的创新之处在于：在固定中继站上，用扇区天线取代全向天线获得更好的干扰抑制效果；在抑制干扰的同时考虑了空间频率复用，提高了频谱效率；在固定中继站上考虑了软频率复用，为小区边缘用户提供更多的子信道。目前，学术界对固定中继站的天线模式研究较少，本文对此进行了探讨，提出在固定中继站上使用扇区天线的干扰抑制方法，能有效提高系统性能。本文所提的两种蜂窝小区结构和频率规划方法简单易行、干扰抑制效果明显。