认知无线网络(Cognitive wireless Network, CWN)作为新一代通信系统的关键技术之一,一方面致力于频谱资源动态可控共享提高频谱资源利用效率,另一方面着眼于异构异质网络融合互通提升网络端到端效能,从而实现了网络容量的有效提升。认知无线网络作为一种解决频谱资源短缺问题的技术得到国内外学者的广泛推崇,成为近年来研究的热点。然而,认知无线网络在实现网络容量和频谱资源利用率提升的同时也带来了新的技术挑战,特别是以唯一的认知特征呈现的网络安全问题。认知无线网络除了具有传统无线网络固有威胁外,还具有针对认知能力和重构的特有威胁。网络安全是认知无线网络成功推广和应用的基本条件,尽管对认知网络安全已进行了大量的研究,但是系统化地研究认知无线网络安全依然面临众多难题。本文主要针对安全威胁对认知无线网络性能的影响,理论分析了网络的安全容量,提出了新的攻击检测方法,并系统研究了检测到攻击用户之后所采取的安全管控机制,主要工作和创新如下。1、认知无线网络安全容量理论研究。首先分析了理想网络环境下的网络容量与节点密度的关系,得到认知无线网络的传输容量域。其次,在认知无线网络受到安全威胁的情况下,研究了网络链路存在窃听时的保密容量,以及网络遭受攻击干扰时的中断容量。最后,综合考虑主动和被动两种攻击威胁,提出了认知无线网络的安全容量。在不考虑传统的攻击干扰的情况下,得到了安全容量的闭式解,仿真实验证明了不同威胁条件下认知节点数与传输容量、保密容量以及安全容量的关系。2、认知无线网络攻击检测技术研究。首先,针对认知无线网络的一般攻击特性,提出了分布式入侵协作检测机制,分析了次用户攻击检测方法,设计了新型频谱检测周期帧格式,并采用了双门限判决协作感知的方法,仿真验证该机制显著提升了攻击的检测性能。其次,针对高级的主用户模拟攻击方式,提出了基于信道参数估计的攻击检测方法,利用攻击者很难模仿信道阴影衰落特征参数的时不变特性,采用检测性能逼近极大似然估计且复杂度低的EM(Expectation Maximization, EM)算法,通过改进EM算法实现对信道参数的快速判决,并推导出了攻击检测概率闭式解,该方式以较小的计算代价换取了检测精度,大大提高了攻击检测概率。3、认知无线网络的安全管理机制研究。针对检测到攻击用户(也称作行为不端用户)后如何处理的问题,提出了基于信任判决的安全管理机制。首先,研究置信度建模,给出了置信度的一般属性,并详细说明了信任值的产生、表征、度量、交互和更新的过程。其次,给出了基于信任值的惩罚机制,针对三种不同的行为不端用户分别采取不同惩罚措施,实现对其的有效管理。此外,文章还考虑了管理机制的网络架构,采取FC(Fusion Center)中心管控与簇头网络的分层架构,减缓FC在信任值更新过程的负担。最后,给出安全管理机制的流程,仿真验证了信任值的产生规则、衰减特性、簇头选取、惩罚机制等,此外,仿真证明了：在认知用户交互情况下安全管理机制可以有效提升网络安全性能,并且网内存在大量认知用户时网络分簇可以有效降低网络负载。最后,本文对所做的研究工作进行总结,分析了研究当中的不足,并对未来的研究方向进行了展望。