在未来无线通信系统中，中继技术是有效提升无线通信系统整体性能的关键技术之一。中继增强型蜂窝系统的性能分析及此新型系统下的多用户调度算法逐渐成为研究重点。本文首先通过分析传统蜂窝系统中的多用户调度技术，提出了适用于中继增强型蜂窝系统的新型贪婪调度算法及比例公平性调度算法，同时利用两跳通信的特点，设计了一种新型路由选择和比例公平性联合调度方法，利用自适应的路由选择获得增益，提升了系统整体性能.本文还研究了基于不同业务的跨层调度，在提升系统性能的同时还满足了不同用户的多种业务要求。本文最后设计了新型的中继协议，并利用OPNET软件从系统网络级评测了中继增强型蜂窝系统的性能。论文主要工作如下： 1.研究了传统蜂窝小区多用户OFDM中调度算法，并且从系统频谱利用率及用户公平性等方面分析算法性能。 2.研究了中继增强型蜂窝小区中的多用户OFDM调度方法，基于固定的路由选择，提出两种贪婪调度算法，一种贪婪比例公平性调度算法。 3.提出了一种路由选择和比例公平性联合调度算法。通过将自适应的选择路由和比例公平性调度相结合的策略，同时获得多用户分集增益和路由选择增益，提升了系统性能。 4.研究的传统蜂窝系统中的多用户跨层调度方法，并通过仿真分析了其性能。 5.提出一种适用于中继增强型蜂窝系统的跨层调度算法，可实现系统MAC层和物理层的联合性能优化。 6.设计了新型中继通信协议，利用OPNET软件搭建了中继增强型蜂窝系统仿真平台；并利用平台从系统网络级分析了中继增强型蜂窝系统的性能。