爆炸性移动数据业务的增长使得传统同构蜂窝网络结构难以应对数据量的冲击以及用户对于通信质量的要求,而异构蜂窝网络架构则广泛被认为是应对该挑战的有效方式之一。蜂窝网络密集化、多元化和随机化的异构趋势导致网络架构愈发复杂,从而使得传统的网络性能评估方法因其过于复杂或相关假设过于理想而无法适用于异构蜂窝网络。然而,对网络进行相应的性能评估是决策网络参数设定和引入新型网络部署和技术的前提条件。因此,找寻一个有效且便于分析的网络性能评估方法是当前异构蜂窝网络研究领域中亟待解决的问题之一。目前随机几何理论是广泛用于建模和分析网络的重要数学工具,且所得理论结果与实际仿真结果切合。因此,本文考虑不同类型点过程建模的异构蜂窝网络场景,利用随机几何相关理论分析不同的关键网络性能指标,期望给予可分析性较高的理论结果,从而在理论上了解网络技术和参数对于网络性能指标的影响。首先,考虑最简单的泊松点过程所建模的异构蜂窝网络,分析其最基本的性能指标信干比分布和可达速率以及更全面反映网络性能的指标,如区域频谱效率和网络能效。由于模型的可分析性较高,本研究考虑更为实际的多信道环境下的中继异构蜂窝网络,采用泊松多层异构蜂窝网络模型对基站和中继的空间分布进行建模,并给出网络性能的理论分析,进而研究站点密度等网络参数对于网络性能的影响。在该模型下,本文推导了宏用户和中继用户的覆盖率及相应的平均可达速率,并进一步推导出区域频谱效率和网络能效的理论闭式表达式。利用齐次泊松点过程的独立稀释特性,本文通过以一定概率去关闭或者开启站点以建模站点密度的动态特性,从而探究网络性能与站点密度之间的关系。结果显示中继异构蜂窝网络的性能要明显高于传统单层蜂窝网络,其中随着站点密度的增加,区域频谱效率随之增加而网络能效先增加后减小,因而站点密度对于区域频谱效率和能效的影响存在一定折中。简单网络模型所分析的结果与方法为更复杂一般性的模型分析提供了基本的理论结果和参考方法。其次,将建模异构蜂窝网络的空间点过程推广到一般性的非泊松点过程,提出有效且简单的分析方法,进一步推广更为实际的非泊松模型在网络研究上的应用,从而得出更具有实际意义的理论结果。以最基本的性能指标信干比分布为研究目标,本文提出两种适用于非泊松多层网络的泊松近似方法,以给出信干比分布较为精确却简单易分析的理论结果,如此可兼顾模型的精确性和可分析性。本文首先对一般性异构蜂窝网络建立了每层泊松近似方法,并基于每层泊松近似方法给出适用于所有路损指数相等的场景中的有效增益泊松近似方法,即推导出异构蜂窝网络的有效增益的具体表达式,如此相应的信干比分布则可以通过以泊松网络简单的信干比分布为基础,在信干比门限上平移有效增益即可。此外,两种泊松近似方法也可用来刻划一般性异构蜂窝网络的信干比分布的拖尾特性。更进一步地,本文推导了在β-Ginibre和泊松点过程所组成的双层异构蜂窝网络场景下精确的信干比分布,通过在精确度和表达式简易性两个方面比较了精确理论结果和近似结果以说明所提近似方法的有效性。结果证明所提的两种方法可以给出简单且精确的信干比近似分布,因此本研究为进一步分析其他更能反映网络性能提供了基础分析结果。最后,在非泊松多层网络模型下,利用近似信干比分布,进一步考虑其他更能反映网络性能的指标以及相关技术对网络性能的影响。同样考虑区域频谱效率和网络能效两种性能指标,并基于由泊松近似方法所得来的近似信干比分布研究一般性异构蜂窝网络场景下的频谱分配策略对于这两种性能的影响,以确定不同频谱分配策略在网络中的应用范围。分别以最大化这两种性能指标为目标,优化各自在一定频谱策略下各层所需频谱大小和各层信干比门限。首先考虑频谱分隔策略,并形成相应的目标性能优化问题,在此基础上引入不同的频谱效率限制条件。该优化问题可等价分解为两个子问题,其中一个是获取最优的信干比门限值以最大化相应的频谱效率,另一个是基于最优信干比门限给出最优的层间频谱分配策略以最大化区域频谱效率或网络能效。随后,利用异构蜂窝网络的有效增益泊松近似方法,本文证明了频谱共享优化问题可以转化为频谱分隔优化问题,因此所提的解决方案亦适用于频谱共享问题。此外,本文比较了泊松模型和非泊松模型在采用不同频谱分配策略下的网络性能,且发现在两种模型下这两种性能随着网络参数的变化呈现类似的变化趋势。本文研究结果为研究更为复杂多层异构蜂窝网络以及评估新技术新方法对于网络性能的影响提供了一种可行性较高的理论方法,具有重要的理论指导意义和实际应用价值。