随着当下信息时代通信业务的需求量大幅度增加,使得稀缺的频谱资源和低下的利用率之间的矛盾日益激化。为了解决这一问题,结合了认知无线电与中继协作技术的认知中继网络应运而生,不但可以扩展无线覆盖区域,还能提高频谱利用率。然而,无线通信因其天然的开放性和广播性特点,极易受到窃听和干扰等安全威胁。尤其在认知中继网络传输中,这种威胁更大,传统的链路层安全机制很难从根本上应对这些安全威胁,保护无线通信系统的安全。物理层安全通过利用无线信道的物理特性和干扰特性来提高网络的安全性能,对于解决无线通信的安全问题具有很大的潜力。本文重点研究认知中继网络的物理层安全问题。通过在网络中引入协作干扰,开展了如下两个方面的研究:针对中继可信的认知中继网络模型的安全传输问题,提出了基于传输中继和干扰中继联合优化选择的物理层安全方案。通过优化选取协作传输中继和协作干扰中继实现信息的安全传输,分析推导出瑞利衰落环境下所提方案保密中断概率的闭式表达式,并在此基础上做了大量仿真分析研究。数值仿真结果表明,在不同场景情况下,传输中继和干扰中继联合优化选择方案均可实现较低的保密中断概率,可以提升认知中继网络信息传输的安全性能。针对中继不可信的认知中继网络模型的安全传输问题,提出了基于目的节点协作干扰的物理层安全方案。为了提高系统的能量利用效率和减少运行的能量消耗,引入了能量收集技术,使中继节点具有从射频信号进行能量收集的能力。分别在功率分割和时间切换两种能量收集策略下,通过寻求最优功率分割和时间切换系数实现信息的安全传输。在瑞利衰落环境下对所提方案的安全性能展开研究,分析推导出保密中断概率的理论表达式。数值仿真结果表明,随着主用户网络可容忍干扰功率和目标安全速率的提升,功率分割策略下的传输方案可实现较低的保密中断概率,表现出更为优异的安全性能。