多天线OFDM技术已被广泛应用到无线通信的各个领域，与此同时多天线OFDM系统的通信安全也受到越来越多的威胁。物理层安全技术利用无线信道的差异性、短时互易性来保障安全通信，是一种理想可行的OFDM系统安全传输技术。但是，多天线OFDM系统物理层安全研究还存在以下问题：1).互易信道场景下，当发送端不具备多天线优势时，现有空域加扰算法无法保障安全通信；2).非互易信道场景下，现有多用户多天线OFDM系统安全算法反馈数据量大，保密吞吐量低。针对上述问题，本文依托国家自然科学基金项目对多天线OFDM系统物理层安全算法进行了专门研究。首先，针对互易信道条件下发送端不具备多天线优势的场景，提出一种基于时域参考的物理层安全算法，以及一种基于空频联合加扰的物理层安全算法。然后，针对非互易信道条件，提出一种基于随机波束成型的MISO-OFDMA物理层安全算法。本文具体内容包括：1.提出一种基于时域参考的SIMO-OFDM物理层安全算法。合法接收者利用接收端的多天线冗余，在各个子载波上发送反向训练序列，并通过随机调整其多天线权值生成时域参考变量；发送端通过对反向训练序列的检测获得前一时刻的时域参考变量，并利用此参考变量对当前时刻发送的调制符号进行旋转加扰。合法接收者利用前一时刻的多天线权值合并接收信号，从而还原原始信号。由于信道的差异性，窃听者无法得到时域参考变量，因此无法截获私密信息。安全性分析和仿真结果表明：当采用QPSK调制、天线数为8、SNR为10dB时，合法用户误比特率达到10-4，而窃听者始终无法正确解调。2.提出一种基于空频联合加扰的MISO-OFDM物理层安全算法。首先，发送端在各个子载波上构造空域多天线权值，使其在各个子载波信道上的投影均等于随机生成的参考变量，并通过改变各个子载波的多天线权值，使得参考变量随机变化，打破了空域加扰算法的恒模约束，然后，通过参考子载波的多天线权值传递参考信息使得合法用户能够正确解调其余子载波的接收信号。由于信道的差异性，窃听者各个子载波信道不存在参考关系，无法解调接收信号。安全性分析和仿真结果表明：在合法用户正常通信的同时，窃听者无法利用盲均衡、MUSIC-like等方法截获私密信息。3.提出一种基于随机波束成型的MISO-OFDMA物理层安全算法。算法分为用户选择和加密传输两个阶段：在用户选择阶段，发送端依次给各个用户发送随机生成的正交波束，每个接收用户反馈各个子载波上信干噪比（SINR）最大的波束索引，以减少反馈数据量；在加密传输阶段，发送端在各个子载波上选取SINR最大的波束发送有用信号，保证相应合法用户的正常通信，选取其余波束发送人工噪声，扰乱窃听者的接收。性能分析和仿真结果表明：当发射天线数为16、窃听者具有一根天线、合法用户数为150时，所提算法的保密吞吐量比人工噪声方法提高了2bit/s。