由于无线接入技术的发展以及用户对更高传输速率的需求，无线通信网越来越呈现出异构的特征。不仅如此，因为未来无线通信系统需要满足人们在任何时间，任何地点和任何人通信的需求，所以改善覆盖和增强区域容量，特别是无线环境复杂地区的容量，变得非常紧迫。新的需求给无线通信提出了新的挑战，而作为解决方案之一，无定形小区的概念被提了出来。无定形小区的目标在于突破传统蜂窝小区的固定形状限制，拓展具有无线回传链路的低功率运动接入点的应用。在无定形小区中，运动接入点与固定接入点一起，构成了一种时间、形状和位置均可动态变化的蜂窝小区。考虑到运动接入点无线回传与低功率的特点，中继是一种有竞争力的候选接入技术。　　本文主要研究无定形小区中两跳解码转发场景下的中继选择和功率控制问题。论文首先介绍了中继技术的国内外研究现状，并详细描述了中继模型、经典中继方案、功率控制方案与中继选择算法。然后，本文讨论了一种在干扰受限的AdHoc网络中基于解码转发两跳中继的干扰感知中继选择算法，该算法解决了中继网络中目的节点所受到的来自多个中继节点的干扰与中继选择相互耦合的问题。接着，本文基于这种算法中的思想修改了传统Max-Min选择算法权值中的参数，设计了一种新的中继选择算法Max-MinMod，并在对中继－目的节点链路的干扰分析的基础上提出了两种功率控制方案。最后，仿真结果表明，在AdHoc场景中，Max-MinMod算法比干扰感知算法表现得更好而且所提功率控制方案能够进一步提升系统性能。　　最后本文将所有算法运用于蜂窝通信系统，考虑了宏小区与家庭小区两种不同的应用场景。仿真结果表明，Max-MinMod算法在蜂窝通信系统中有着较好的性能而且功率控制能明显提升其性能，但干扰感知算法在家庭小区中性能较差，而且功率控制无法明显提升其性能。这些结果说明，不论是在蜂窝通信系统中还是与所提出的功率控制方案相结合，Max-MinMod算法都能得到更好的性能。