下一代无线通信技术将在不同应用场景中满足人们的各种服务需求。移动数据预计将在未来几年进一步激增。大量的机密信息(例如,信用卡信息,电子医疗的生理信息)将通过开放的无线介质进行传输。无线信道的广播特性使其极易受到窃听和攻击,这将会给无线通信带来重大的挑战。本论文围绕两种无线安全通信关键技术:方向调制和隐蔽通信展开全文。其中,对于方向调制,着重研究其传输的稳健性以及精准性;对于隐蔽通信,主要研究其在衰落信道下的不同应用场景。主要研究工作和创新点如下:(1)针对方向调制(Directional Modulation,DM)中期望方向角的测量存在不确定性,我们提出了一种稳健DM合成方法。具体地,首先得到一种低复杂度的动态DM合成方法的闭合表达式。根据该表达式,在给定估计误差分布的情况下,基于条件最小均方误差(MMSE)准则将星座点沿期望方向的失真最小化。仿真结果表明,所提稳健的DM方法相比于现有的DM方法能够显著提高安全性能。(2)为了实现更加精准的无线安全通信,提出了一种基于随机频率分集阵列(Random Frequency Diverse Array,RFDA)的人工噪声(Artificial Noise,AN)协助的DM方案,实现了二维(即角度和距离)安全的传输,并得到优于基于相控阵列(Phased Array,PA)DM方案的一维(即角度)的安全性能。其中,推导出了 RFDA-DM-AN方案遍历安全容量的下界的闭合表达式,并在此基础上,进一步优化了有用信号与AN之间的传输功率分配,从而提高了遍历安全容量。所提的RFDA-DM-AN方案相比于基于PA的DM方案和基于线性频率分集阵列(Linear Frequency Diverse Array,LFDA)的DM方案具有更高的安全容量。(3)为了隐藏无线传输的存在,研究了单向中继网络中隐蔽通信的可能性和可达到的隐蔽性能。中继在转发源节点到目的节点的信息的掩护下贪婪地和投机性地传递自己的隐蔽信息给目的节点,而源节点试图检测到隐蔽传输从而发现中继非法使用资源(如能量、频谱)。该章节研究了中继传输隐蔽信息的两种方案(即速率控制和功率控制),从检测错误概率的角度分析了源节点的检测极限,得出了中继到目地节点可实现的有效隐蔽速率。在某些参数条件下,速率控制传输方案优于功率控制传输方案的条件。因此,本模型的分析能够促使中继在这两种方案之间进行切换,以达到最大的有效隐蔽速率。此外,中继的有效隐蔽速率随着中继的转发能力的增强而增大。(4)针对源节点向中继提供资源来转发其信息给目的节点的同时不允许中继使用该资源作其他用途的情况,所提方法研究了具有无线能量收集功能的中继如何在源节点侦听环境下实现隐蔽传输。具体考虑时间切换(Time Switching,TS)和功率分流(Power Splitting,PS)两种无线能量收集方案,研究了中继将隐蔽信息传输到目的节点的可能性、性能限制和相关成本。推导了源节点的最小检测错误概率,在此基础上分析并得到了满足隐蔽约束条件下的最大有效隐蔽速率。分析表明TS和PS方案中最小检测错误概率的值是一样的,这表明两个方案所需中继的能源转换效率提升程度是相同的。仿真结果表明,当源节点的传输功率相对较高时,PS方案相对于TS方案能实现较高的最大有效隐蔽速率。如果隐蔽约束比某个特定值更紧,则是隐蔽约束限制了最大有效隐蔽速率,反之,则是能量转换效率的上限值限制了最大有效隐蔽速率。(5)为了增强点对点的隐蔽传输性能,利用全双工接收机来实现衰落信道中的隐蔽通信。具体来说,全双工接收机以随机功率来发射人工噪声,从而故意扰乱看守者的接收功率,有效地实现发射机和全双工接收机之间的隐蔽通信。首先我们得到看守者处虚警和漏警率的表达式,在此基础上分析并确定最优检测门限,并得到其在无线衰落信道上的最小检测错误概率期望值的闭合表达式。虽然全双工接收机产生的人工噪声会引起自干扰,但是在检测错误概率的期望值满足给定的隐蔽约束的情况下,对于任意发射机的发射功率值都能得到非零的有效隐蔽速率。(6)为了隐藏无线传输以及发射机自身的存在,提出了全双工接收机辅助下基于信道反转功率控制(Channel Inversion Power Control,CIPC)的隐蔽通信方案。发射机根据不同的信道质量变化发射信号的功率使接收机处的信号功率为一恒定值从而能够在不知道信道状态信息的情况下能够对这些信号进行解码。这就消除了接收机对于发射机信道状态反馈的需求,从而帮助发射机隐藏自身并不让看守者觉察它的存在。其中,我们分别研究了截断CIPC和传统CIPC两种方案并通过有效隐蔽速率来检验它们的性能。仿真结果表明,在满足隐蔽约束条件下,截断CIPC方案相对于传统CIPC方案能够得到更高的有效隐蔽速率。