由于完全开放的无线信道,网络安全是无线网络演变过程中面临的核心问题之一。基于香农信息论的物理层安全被认为可以提供不依赖破译复杂度的“绝对安全”成为保障未来无线网络信息安全传输的一种有效途径。目前物理层安全已成为无线通信领域的研究热点。尤其对于节点位置随机分布、节点信道信息无法准确获取的随机网络,其安全容量分析更是研究难点。针对此,基于随机几何方法理论,本文研究了随机网络典型场景下的安全连接,提出了提升其安全性能的方法,在进行深入分析和研究的过程中,取得了以下研究成果：(1)针对单小区单天线随机网络(基站、合法用户和窃听用户均配置单根天线)安全连接,建立了表征合法节点、窃听节点空间位置的泊松模型,推导了瑞利衰落信道下,窃听者非合谋场景下任意位置合法用户的安全连接概率闭式表达式；针对窃听者合谋场景,推导了Nakagami-m衰落信道下任意位置合法用户安全连接概率的闭式表达式；提出了一种合法用户间合作方法来对抗窃听者合谋,相比非协作场景,可使安全中断概率降低33%。(2)针对MIMO随机无线网络(基站、合法用户和窃听用户均配置多根天线)的安全连接,研究了发送-接收分集技术(Transmit-Receiver Diversity, TRD)对安全连接性能的提升,推导了基于TRD技术窃听者非合谋和合谋场景下合法用户的安全连接概率的上界表达式,相比MISO系统,达到相同期望的安全连接概率,采用TRD技术可使所需合法用户节点密度大幅降低。(3)针对中继随机网络,研究了源节点和中继节点采用相同码本的解码转发(Decode-and-Forward, DF)和不同码本的随机转发RF(Randomize-and-Forward, RF)两种方案下的安全连接,推导了采用最好中继选择和随机中继选择策略下的安全中断概率闭式表达式,结果表明随着中继节点密度的增加,采用最好中继选择策略可使安全中断概率单调快速下降,而采用随机中继选择策略安全中断概率趋于常数。(4)针对多小区并存的无线网络安全性能分析,基于随机矩阵理论和正则信道求逆(Regularized Channel Inversion, RCI)预编码方法,推导了两基站干扰协调的最优可达安全总速率,结果表明通过基站协作可使安全总速率得到大幅增长；针对多小区(远大于两小区)并存场景,基于随机几何方法提出了一种以用户为中心基站随机分布的干扰分析模型,推导了采用多小区干扰删除技术(Inter-cell Interference Cancelling, ICIC)下的安全传输容量,仿真结果表明,安全传输容量相比于无基站协作场景可提升20%。综上,本文将物理层安全引入随机网络不同典型场景中(单小区单天线随机网络、MIMO随机网络、中继随机网络、多小区并存随机网络),并以安全速率、安全中断概率等为指标量化地分析TRD技术、中继选择分集技术、干扰协调技术对安全性能的提升,从而为支撑物理层安全技术与未来无线网络有效融合提供一定理论指导。