认知无线电作为一种智能无线电技术,能够有效提高频谱利用率,将其与多输入多输出（MIMO）天线技术结合,可以显著提高认知用户信道的自由度,从而增加信道容量。但是,由于无线信道的随机和广播特性,认知无线电系统容易被恶意用户窃听,造成安全隐患。近年来,物理层安全技术已成为无线通信和信息安全的研究热点,与传统加密手段相比,物理层安全技术具有更低的复杂度和更强的适用性,可以有效避免和降低合法用户被窃听的危险。本文深入研究了MIMO认知无线电窃听信道的保密容量问题,主要研究工作和创新成果如下:1.建立了一种MIMO认知无线电窃听信道的数学模型,并在认知用户发送端具有完全信道状态信息前提下,提出该窃听信道模型的保密容量定理。在该定理中,保密容量可以表示为一最大化非凸优化问题和一最大-最小化凸凹优化问题。从信息论的角度,对保密容量定理进行了理论推导和数学证明,推导出保密容量的上界和下界,确定了输入信号服从的最优分布类型,证明了最大—最小化问题的最优解为鞍点,以及在该鞍点设定下,保密容量的上界与下界相等。在此基础上,研究了含有多主用户接收端和多窃听者的MIMO认知无线电窃听信道的保密容量。仿真结果验证了保密容量定理的正确性。2.研究了MIMO认知无线电窃听信道保密容量的性质。推导了最优协方差矩阵的相关性质,包括最优信号的传输空间,最优协方差矩阵秩的上界,最优波束形成的充分条件,并推导了保密容量非零和无界所对应的充要条件。从理论上分析了总传输功率条件（TPC）和干扰功率条件（IPC）的约束状态与传输功率门限和干扰功率门限之间的关系。仿真结果验证了最优协方差矩阵的秩上界和保密容量具有无界性的充要条件的正确性,同时验证了TPC和IPC条件的约束状态与相应门限的关系分析的正确性。3.在MIMO认知无线电完全退化窃听信道模型的设定下,研究了保密容量的理论求解方法。在非零干扰功率门限条件下,推导了保密容量的一种满秩理论解法,并给出了满秩解为最优的充分条件。在零干扰功率门限条件下,推导了保密容量的一种非满秩理论解法,并推导了该条件下的最优传输空间,最优波束形成的充分条件,以及保密容量无界的充分条件。仿真结果验证了-,其与蒙特卡洛法具有相同的性能。4.建立了多主用户和多协作窃听者条件下的MIMO认知无线电窃听信道模型,针对该模型的保密容量优化问题,提出了两种具有全局收敛性的算法。在所有主用户信道矩阵均非奇异的情况下,提出一种基于障碍函数法的算法,该算法结合了牛顿迭代法和回溯线搜索法,在含有奇异主用户信道矩阵的情况下,提出一种基于二分线搜索的算法。在理论上推导分析了两种算法的全局收敛性。仿真结果表明,算法精度高,收敛速度快,其性能显著优于仅具有局部收敛性的交替优化算法。