无人机(Unmanned aerial vehicles,UAV)通信系统可以根据实际需求提供通信服务,特别适合突发性、需要快速部署的应用场景。由于无线信道的广播性、UAV的移动性,使得UAV通信系统的安全面临极大的挑战。以香农信息论为理论基础的物理层安全为无线通信安全传输提供了一个很好的解决思路,已经成为信息安全和无线通信两个领域的交叉研究热点之一。本文主要研究了UAV通信系统的安全性能,具体研究工作概括如下:1.首先,针对UAV物联网(Internet of Things,Io T)通信系统的安全性能进行数学建模,分析系统参数对安全性能的影响。考虑在合法发送端周围的窃听节点服从泊松分布,地空链路处于视距和非视距传播方式时,分别用Rician和Rayleigh模型来描述小尺度衰落的分布,利用随机几何理论,推导出各链路信噪比的累积分布函数与概率密度函数,进而推导出系统安全中断概率(Secrecy Outage Probability,SOP)和平均安全容量(Average Secrecy Capacity,ASC)的闭合解析式和渐进解析式。结果表明,UAV Io T通信系统的安全分集阶数(Secrecy Diversity Order,SDO)仅与地面链路路径损耗指数相关,ASC曲线斜率等于1,而且SOP和ASC的曲线斜率均与UAV高度、信道环境参数无关。还分析了引入友好UAV发送人工噪声(Artificial Noise,AN)时Io T系统的安全性能,推导出对应的SOP和ASC的闭合解析式。结果表明,AN策略可有效改善系统的安全性能。2.结合非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术,研究UAV NOMA系统的安全性能。考虑系统中用户不同服务质量需求,采用基于距离的功率分配策略,分析了UAV采用直线运动轨迹和圆周运动轨迹时系统的安全性能,推导出UAV NOMA系统的SOP的闭合解析式和渐进解析式。结果证明,通过调节UAV海拔高度、发送功率以及环境参数将有效提高系统安全性能。