随着移动互联网的快速发展和智能终端的广泛应用,人们对无线蜂窝通信网络的容量、延时和覆盖范围等性能都提出了更高的要求。为了提高无线蜂窝通信网络的性能,学术界和工业界正研究在传统无线宏蜂窝通信网络中加入许多小功率基站,如微微蜂窝基站(picocell base station)、毫微微蜂窝基站(femtocell base station)和中继站(relay)等。这样形成的异构的新兴无线网络已成为当前无线通信领域的研究热点。相比于传统无线宏蜂窝通信网络,新兴无线蜂窝通信网络中基站密度大大增加,网络结构复杂度也大大增加；且由于频率资源非常有限,不同类型的基站一般使用相同的频段,因而网络中不但同频干扰强度大大增加,而且干扰结构和环境的复杂度也大大增加。同时,随着基站密度的增加,移动终端同时检测到的基站数量增大,且不同类型基站的覆盖范围大小不同且相互部分重叠,这就使得移动终端的越区切换管理更加复杂。因此,新兴无线蜂窝通信网络中有效的干扰管理和越区切换管理成为提高网络性能的关键,对其进行的研究具有重要的理论意义和实用价值。本论文研究了新兴无线蜂窝通信网络中的干扰管理和越区切换管理问题,以期为新兴无线蜂窝通信网络的广泛应用提供一定的理论和技术参考,主要研究内容、创新点和取得的研究成果如下：(1)研究了小区内不同移动终端之间的干扰管理问题。本文分析了当前基于信号与泄漏加噪声比(signal to leakage plus noise ratio, SLNR)准则的小区内多个移动终端发射波束成形的干扰管理方案存在的局限性及产生局限性的根本原因。针对其局限性及原因,本文提出了一种改进方案。该改进方案把接收机结构融合在发射波束优化过程中,使优化过程中的信号强度和干扰(或泄漏)强度的描述更加准确,从而使设计的发射波束成形矩阵能够更加准确地减小不同移动终端间的同信道干扰。从理论上看,该改进方案具有更加通用的形式,适用于多种接收机结构或接收滤波器；从系统性能看,相比于原始方案,该改进方案对系统中移动终端的等效信号干扰噪声比有约2 dB的增益,因而提高了数据传输速率。在多路数据流情景下,本文提出了一种新的模型,即层SLNR模型,该模型不但考虑了不同移动终端的数据流之间的干扰,而且考虑了来自相同移动终端的不同数据流之间的干扰(在前人的研究中,此干扰一般假设为零)。因而信号与干扰的建模更加精细和准确,优化得到的预编码向量使信号与干扰达到了较好的平衡,从而使每个数据流都有较好的接收质量。(2)研究了用于小区间干扰管理的无线信令信息的传输设计问题。本文综合分析了无线蜂窝通信网中传统无线信令信号的功能、设计要求、特点、传输和实现方式,并在不同场景下比较了多种典型的传统无线信令的检测性能。由于传统无线信令信号是针对服务基站而设计的(只用于小区内信息传输),且在无线信道中极易受到干扰,传统无线信令信号不适用于新兴无线蜂窝通信网小区间无线信令传输,特别是在多发射机环境下其检测性能迅速恶化。因此,本文提出了一种新的无线信令信号方案(即单音信令信号方案),从理论上证明了该信号具有最大码距可分离性和多信号可分辨性,详细分析了单音信令信号的检测方法和在多种场景下的检测性能,并比较了单音信令与传统无线信令的检测性能。结果表明,单音信令信号的强抗干扰、大覆盖、低开销等特性使其非常适用于复杂的异构无线通信网小区间无线信令传输；即使在多发射机同时发射信号的情况下,该信令信号方案仍具有优异的检测性能。(3)研究了无线蜂窝通信网络中分布式动态小区间干扰管理问题(小区间数据传输方案设计和优化)。基于单音信令信号,本文从物理层实际出发,研究提出了两种小区间数据传输调度算法,即开关功率控制算法和小区间波束协调算法。该两种算法都为分布式算法,不需要中心控制器或中心协调器,具有较低的复杂度；且它们不但能快速减小小区间干扰从而提高了信道条件差的移动终端的性能,而且能极大地改善系统中各移动终端的公平性。特别是提出的小区间波束协调算法,在改善系统中移动终端之间的公平性的同时,能较好地维持信道条件好的移动终端的性能,并提供了不同用户服务质量的调节机制。通过网络级蒙特卡洛仿真,本文分析比较了提出的两种算法与传统方法的性能,验证了提出算法的有效性、可行性和优越性。(4)研究了无线蜂窝通信网中移动性管理——越区切换管理问题,重点分析了越区切换策略(或切换最初触发条件)的选择问题。本文分析了传统越区切换策略的不足之处,即切换偏置(handoff bias)不能随移动终端的移动状态和不同类型基站的环境参数的变化而变化；针对该不足,本文研究提出了一种启发式越区切换策略方案。该方案将移动终端的速度大小与方向和各基站的传输环境参数融合到越区切换策略中,使越区切换时间选择更加准确,减小了越区切换频率和切换失败率,从而减小了系统开销和服务中断概率。在新兴异构无线蜂窝通信网中四种典型的越区切换场景下,本文利用蒙特卡洛仿真,通过与传统方法进行比较,验证了提出方法的有效性和优越性。