多跳无线网络是一种基于无线链路实现节点间互联互通的网络系统,具有广泛的应用。网络安全问题已经上升到国家战略的高度,由于无线信号空口上开放的传输方式,因此存在安全隐患,而多跳无线网络涉及的安全问题则更为突出。本论文主要从物理层安全的角度研究这类网络中的安全问题,重点考虑如何在缺少窃听者先验知识等不利情况下,保证信息在多跳路径上传输的安全性、实现安全性以及可靠性的联合优化等。研究过程中将采用具有较好一般性的同质泊松点过程(PPP)对窃听者的分布进行建模,尝试采用包括随机几何、非线性优化等数学方法,同时综合利用全双工(FD)通信中的自干扰抑制技术、协作干扰等新的手段,对复杂网络环境下的物理层安全问题开展研究。鉴于多跳无线网络所具有的一般代表性,本论文的研究成果具有很好的理论和实践意义。本论文的主要贡献如下:首先,我们研究了在存在随机分布窃听者的情况下,多跳无线自组织网络中的安全路由问题。具体来说,窃听者的位置被建模为同质PPP,源目的节点对由使用解码转发(DF)策略的中继辅助传输。在窃听者协作与非协作两种场景下,我们使用端对端安全连接概率(SCP)来表征多跳路径的物理层安全性能。为了获得便于工程实际应用的安全路由解决方案,还导出了一种具有很高精确度的SCP近似计算方法,在此基础上结合Bellman-Ford算法,提出了一种寻找具有最高SCP的多跳传输路径的方法。第二,我们考虑了多跳无线网络中采用FD干扰中继的的安全连接问题,其中协作窃听者的位置服从PPP随机分布。通过应用FD,每个合法节点(包括中继和目的节点)在接收来自发射机的所需信号时,同时发送人工噪声来干扰窃听者,并利用同时同频全双工技术消除自干扰。我们采用端到端SCP作为安全度量来表征物理层安全性能。首先,我们得到了给定路径SCP的确切表达及便于工程实际应用的SCP的精确近似,从而可用修改后的Bellman-Ford算法来进行有效的安全路由选路。分析表明,与半双工(HD)方案相比,所提出的方案可显著提高系统安全性能。第三,在二维空间中存在随机分布的窃听者的情况下,我们研究了线性多跳网络中的安全传输设计问题。根据是否有从接收机到发射机的反馈,我们研究了两种传输方案:开关传输(OFT)和非开关传输(NOFT)。在OFT方案中,如果瞬时接收信噪比(SNR)下降到给定阈值以下,则暂停传输,而NOFT方案中不会暂停传输。我们通过联合设计维纳编码速率以及跳数来最大化系统的安全传输容量。通过解决这个组合优化问题,所得结果为实际中的线性多跳网络中物理层安全设计提供了指导。