物理层安全是利用无线信道的差异性和互易性,实现信息安全传输的技术手段。传统物理层安全主要研究相对稳定场景下的单一主体最优化策略,当场景改变或者具有多个研究主体时,传统的物理层安全方法将失效,使用博弈论方法可以解决此问题。目前物理层安全研究存在如下三个问题：(1)基于博弈论的物理层安全研究缺乏统一的建模。(2)存在干扰者时,现有中继干扰方案无法保证安全传输。(3)存在多个单天线用户的网络,因用户缺少天线冗余度无法保证物理层安全通信。针对以上问题,本文依托国家自然科学基金项目“无线通信信道特征等效下的物理层安全性研究”,对基于博弈论的物理层安全传输技术展开深入研究。首先,本文给出了物理层安全的博弈理论模型；然后,针对存在干扰者时,现有中继干扰方案无法保证安全传输的问题,提出了基于零和博弈的中继物理层安全方法；针对存在多个单天线用户的网络缺少天线冗余,无法保证通信安全的问题,提出基于合作博弈增加天线冗余的物理层安全方法。主要工作包括：1、构建基于博弈论的物理层安全模型把物理层安全研究中出现的理性假设和多目标策略优化的现状同博弈理论相结合,提出物理层安全对博弈论的需求；对物理层安全研究中的对象以及方法进行归纳,把策略对系统性能的影响纳入到物理层安全的研究中,构造策略向系统性能映射的函数,建立基于博弈论的物理层安全模型。2、提出一种基于零和博弈的中继物理层安全方法通过对博弈均衡条件的求解,在恶劣的干扰窃听环境下得到非零的保密速率,从而保证保密通信。通过把中继和干扰者对抗的建模为零和博弈,以系统的保密速率作为收益,提取出两者的策略；分别在策略博弈和扩展式博弈的场景中,详细分析了两者博弈可能产生的所有局势,并利用博弈中的最大最小方法和逆向回溯法分别讨论并给出了两种博弈场景的均衡条件及结果。通过仿真,验证了均衡的存在以及达到均衡的最优策略选择。3、提出基于合作博弈增加天线冗余度的物理层安全方法通过用户的分布式合作形成虚拟多天线,利用天线冗余发送人工噪声抵抗窃听者的窃听行为。由于无法集总式的处理和控制,且每一个用户均有其自己的得失,需要使用合作博弈的联盟形成理论产生合作组保障物理层安全。讨论发送端未知窃听信道信息和已知窃听信道信息两种情况,分别以功率限制和功率——保密速率限制为条件设置合作博弈的特征函数,最终收敛形成利于信号保密传输的合作组划分；合作组划分完成后,以合作组为单位构造含人工噪声的发送信号,保证信号传输的安全。仿真结果显示,当未知和己知窃听信道状态信息时,用户平均保密速率比不形成合作组分别约提高0.6bps/Hz和1.3bps/Hz。当窃听者能够干扰时,利用已知窃听信道时的合作组划分,利用前文提出策略博弈的方法,把合作组和窃听者建模为双人零和博弈,在策略场景下进行求解。且仿真验证了干扰者存在时的均衡解。