为满足急速发展的通信应用需求,第五代移动通信网络（5G）的研究不断深入。数据的可靠性和安全性已经成为其发展的关键因素,5G对新的编码技术和加密技术的提出了更多的需求。在传统的通信网络模型中,安全方案的制度在上层进行,随着超级计算机的出现以及侦听技术的快速发展,基于计算量的传统加密机制无法满足当今需求。为此,基于物理层信道特征完成安全通信的物理层安全技术成为一个新的研究热点。此外,polar码以其独特编译码方式成为5G控制信道编码方案。但传统通信模型中,信道编码（物理层）和数据加密方案（较高层）往往被视为通信系统的两个不同过程,这增加通信系统中数据处理的复杂度和延迟。因此,在物理层对编码和加密的进行联合设计,将编码加密融为一体,可作为现代通信安全策略的重要补充。本课题正是瞄准以上安全需求背景展开深入研究,课题成果不仅仅可以用于民用无线通信系统,还可进一步扩展研究以应用于新一代抗探测和低截获的军用无线通信系统。本文主要针对物理层的编码和加密方案进行了深入的研究,主要工作以及成果如下:（1）针对传统通信模型中编码和加密相分离的结构进行改进,将编码和加密合为一体,在编码的同时实现加密。利用密钥生成技术产生初始密钥值作为混沌发生器的种子从而产生用于加密的混沌序列,采用polar码编码方式并且设计一种延迟反馈加密结构,其连锁效应可以大大增加窃听者解密的复杂度。理论分析和仿真结果均表明,加密后的密文可通过随机性测试,即采用延迟反馈物理层加密后的密文具有良好的不可预测性和安全性,且不影响合法通信的误码率性能。（2）针对polar码的编码特性,即选择对称容量小的比特信道作为冻结位,但冻结位由于传输的皆为全0而导致传输浪费的现象,提出了一种基于polar码冻结位的物理层加密算法,该方案利用极化码中的冻结位来传输由信道状态信息（CSI）生成的混沌序列,使纠错和加密可以同时进行。仿真分析表明该算法对合法特性不会带来影响,在实现物理层安全的同时保证数据传输的可靠性。密钥敏感性测试结果显示加密密钥精度高,密钥敏感性强,由于窃听者不知道这些冻结位的混沌序列从而无法进行正确译码。（3）针对窃听者可能采取某些手段于合法接收者所处位置进行同样的密钥提取操作从而盗取初始密钥,本文进一步探究了polar码冻结位加密原理,发现进行部分冻结位加密同样可以实现其安全性。为此,提出了一种基于部分polar码冻结位和AES加密机的物理层加密算法,利用AES加密器对混沌序列进行加密得到加密密钥,将加密密钥置于部分polar码的冻结位中进行传输,由polar码的编码结构即不同位异或的迭代可知其依然可以在不影响通信质量的前提下实现系统的保密性,使得加密方案更加安全。（4）针对OFDM系统存在峰均功率比（PAPR）高的问题,提出了一种物理层加密和降低PAPR联合方案,旨在解决PAPR问题,实现传输系统的高安全性。该方案将密钥生成技术生成的混沌序列进行分段并且匹配索引值,利用polar码的最好信息位存储混沌序列的序号索引值。采用SLM思想,利用索引值所对应的混沌序列对剩余信息进行加密,选择具有最低PAPR加密结果进行传输。通过理论分析以及仿真证明了该本方案不仅仅可以在物理层编码过程中实现加密安全性,而且在不增加系统复杂度和延迟的情况下降低了OFDM系统的PAPR。最后,文章对全文研究工作进行总结,所提方案在不影响系统可靠性的前提下提高了系统的安全性能,在未来5G通信系统和军用通信系统都具有广泛的应用价值。此外本文结合了现有物理层安全技术存在的问题,未来可针对5G新空口技术以及军用通信中的物理层安全问题进一步研究。