现有的频谱分配机制下,静态的频谱分配机制与动态的频谱利用方式之间的不匹配,使得有限的频谱资源越来越难满足日益增长的无线通信需求。认知无线电的提出大大提高了无线频谱的利用效率,而协同中继传输方式的引入提高了衰落环境下信道容量和覆盖性能,从而使得认知协同中继网络成为时下的一个研究热点。在协作频谱共享技术的研究基础上,本论文针对以不同的频谱共享方式(Underlay,Hybrid Underlay/Overlay)与授权系统共享频谱的认知双向中继网络,分别在干扰功率约束、最大中断概率约束场景下对其进行研究。相比于传统的正交转发协议,本文也对非正交译码转发这种新的中继转发协议对认知协同中继网络频谱效率的提升进行了探讨研究。论文的主要贡献如下:1、机会中继选择下认知中继网络的双向传输技术研究:双向传输相比于以往的单向传输有着不可比拟的优势,能够更好的利用信道进行信息传输,从而获得更高的频谱效率。为此,在考虑了授权系统发射节点对认知系统传输干扰的基础上,本论文研究了认知协同中继网络的双向传输问题,定义了认知双向中继系统的中断概率,通过理论推导,分别给出了 Rayleigh衰落条件下系统中断概率的精确表达式和其在高信噪比条件下的渐进表达式,同时也探究了网络中关键节点位置变化对系统中断性能的影响。研究结果表明,该认知双向中继系统只有在授权系统干扰固定的情况下才能获得满分集增益M;随着授权系统对次级系统干扰功率的增大,认知系统中断性能不断恶化,可以通过增加中继的数目来弥补由于授权系统干扰而导致的系统中断性能损失;通过将中继节点部署在源节点间的对称位置上,认知系统能够获得更高的中断性能,这也表明在设计认知协同中继网络时关键节点的位置规划很有必要。2、中断概率约束下认知双向中继网络混合频谱共享研究:在认知中继网络中,由于服务请求的随机性,授权系统的传输活动往往是突发的,其对次级系统的干扰往往也是随机的。为此,本论文用一个两状态离散时间马尔可夫模型来描述授权系统的传输行为,对认知双向中继网络的混合频谱共享进行了研究。相比于以往的干扰功率约束,本论文采用了授权系统最大中断概率约束来保证授权系统的服务质量。通过理论推导给出了中断概率的精确表达式。通过对结果的分析可知,授权系统的发射节点对认知系统的干扰不能忽略,当其发射功率逐渐增大超过一定的阀值,认知系统的中断性能急剧恶化;在频谱使用率相对较低(≤0.1)的情况下,次级系统的中断性能受授权系统随机传输活动的影响最大;在同时考虑最大中断概率约束和峰值发射功率约束时,认知系统会出现“中断饱和”现象;授权系统与次级系统中断性能之间的折中关系仅仅维持在一定的门限之前,门限大小往往取决于认知系统传输功率限制。3、基于非正交译码转发协议的认知协同中继网络研究:关于认知协同中继网络的研究中通过正交转发方式得到的高阶分集增益是以降低频谱效率为代价的,近年来提出的非正交转发这种新的中继转发方式能获得更高的频谱效率,还未在认知协同中继网络中研究过。为此,本论文研究了基于非正交译码转发协议的认知协同中继网络,理论推导了认知中继系统中断概率的近似表达式。研究结果表明,非正交译码转发协议能够突破正交转发协议1/2的频谱效率上限,获得大于1/2传输效率的高阶分集增益;非正交译码转发协议下系统的中断性能随着中继数目的增大而改善,但是当中继个数增加到一定数目,这种改善趋势变缓慢;相比于传统的正交译码转发方式,基于非正交译码转发协议的认知中继系统能够获得更好的中断性能;随着译码信噪比门限的逐渐增大,系统正确译码的条件限制越来越苛刻,系统最终将退化为非协同模式。