无线通信系统中的传输媒介具有广播特性,合法用户之间的信息传递过程存在被非法用户窃听的问题,因此如何保证无线通信系统的安全性已成为无线通信领域亟待解决的问题之一。物理层安全技术是利用物理信道特性保证无线通信系统保密性的有效手段,与传统的以密码学为基础的保密通信不同,物理层安全技术不需要在网络上层进行数据加密。如何利用物理层传输技术保证窃听者接收不到有用信息来提高无线通信系统的保密性能,是当前无线通信研究的热点问题。波束成形技术和人工噪声技术是保证物理层安全,实现保密通信的两种重要方法。本文针对有保密需求的MISO系统和协作中继系统两个场景,研究了如何提高两个系统的保密性能的问题,提出了利用人工噪声技术来降低保密中断概率,提高保密容量的方法。论文的主要工作和创新点总结如下：(1)针对MISO系统中存在多个被动窃听器,且窃听器的位置是服从泊松分布的场景,研究了利用人工噪声技术提升MISO系统的保密性能的问题。在所研究的MISO场景中,针对窃听器的位置和信道状态信息都不可知的情况,提出了采用保密中断概率作为衡量保密性能指标的方法。通过在发送端引入人工噪声技术和波束成形技术,有效地降低了通信系统的保密中断概率。在人工噪声的设计过程中,通过对多天线阵列权重的设计,使人工噪声位于主信道的零空间,在不干扰合法目的接收端的情况下,对服从泊松分布的窃听器进行干扰。采用随机几何理论推导出了系统的保密中断概率的闭式表达式,并在此基础上,推导出了保密范围的闭式表达式,从几何空间的角度刻画了保密性能,并通过仿真验证了所提出的方法的有效性。仿真结果表明,在波束成形技术的基础上添加人工噪声技术能够有效地提高MISO系统的保密性能。(2)针对协作中继系统中存在单个窃听用户的场景,研究了最大化协作中继系统保密容量的问题,提出了在协作通信两个阶段均引入人工噪声技术的方案。在人工噪声的设计过程中,协作通信的两个阶段采用不同的节点产生人工噪声,第一阶段利用目的接收端的天线产生人工噪声,节省了额外的干扰中继节点。第二阶段利用中继节点进行协作发送人工噪声。考虑到协作中继系统中的所有信道状态信息都可知,本文采用保密容量作为衡量协作中继系统保密性能的指标。以最大化系统保密容量为目标,以中继节点的总功率和每个中继节点的功率为约束,利用凸优化理论对波束成形向量和人工噪声进行联合优化设计,提出了二层优化和半定规划的优化方法。仿真结果表明,在协作通信的两个阶段通过添加人工噪声能够有效提高协作中继系统的物理层安全性能。