随着第五代移动通信（The 5th Generation,5G）系统的广泛普及和使用,万物互联的时代已经到来。不断涌现的沉浸式虚拟现实（Virtual Reality,VR）、全景直播、无人驾驶、远程医疗等新型应用,以及与日俱增的智能设备数量和数据流量对无线通信网络的性能提出了更加苛刻的要求。预编码是无线通信的核心技术,它通过对发射信号进行预处理,达到增强接收端信干噪比（Signal to Interfer-ence plus Noise Ratio,SINR）的目的。预编码器的优化是无线通信系统设计中绕不开的问题。非正交多址（Non-Orthogonal Multiple Access,NOMA）作为一种新型多址接入技术,为海量设备连接提供了有效解决方案,是未来无线通信网络中颇具前景的技术之一。本文将以无线通信系统中预编码与NOMA技术为研究重点,探索频谱效率或能量效率更优的预编码算法及NOMA功率分配算法,并针对物联网中设备数量剧增引起的频谱资源紧张、网络设备连接容量不足、持续供能困难、信息安全性难以保障等问题,研究涉及预编码的无线通信网络资源高效配置与优化,以提高网络服务能力。本文的主要工作及创新点如下:（1）毫米波大规模天线系统低功耗预编码技术研究为降低毫米波大规模天线系统全连接混合预编码结构中大量移相器引起的高功耗,本文在模拟域引入二进制开关,提出了支持动态开关移相器的MPZF（Modified Phased-Zero Forcing）混合预编码算法,能够找到对可达和速率贡献最小的部分移相器并关闭,从而降低系统功耗。基于28 GHz青岛北站候车厅实测信道数据验证了 MPZF算法性能,结果表明通过关闭适当比例的移相器,在非视距（Non-Line-of-Sight,NLoS）和视距（Line-of-Sight,LoS）场景分别能节省约28.6%和20%的模拟域硬件功耗,同时保证系统可达和速率不降低。（2）毫米波NOMA通信系统避免错误解码的功率分配算法研究分别以最大化可达和速率以及能量效率为目标建立了两种毫米波下行NOMA通信系统功率分配问题模型,并引入串行干扰消除（Successive Interference Cancellation,SIC）稳定性约束条件,确保接收端成功解码。通过子问题分解将每个原始问题分解为簇内和簇间功率优化问题,并结合迭代思想提出了相应的功率分配算法。仿真结果表明,相较于其他文献中的算法,所提两种算法能够达到更好的可达和速率和能量效率,并且避免了由SIC错误解码引起的性能衰减,保证系统性能的稳定性。（3）毫米波全双工SWIPT系统资源分配算法研究为缓解物联网频谱资源紧张以及设备电池寿命有限的问题,将毫米波、全双工与无线携能通信（Simultaneous Wireless Information and Power Transfer,SWIPT）技术结合,并在多输入单输出（Multiple Input Single Output,MISO）干扰网络中引入自适应干扰解码（Adaptive Interference Decoding,AID）机制及基于开关和反相器的低功耗混合预编码结构。以最小化系统总发射功率为目标建立了资源分配模型,提出了发射功率、混合预编码、AID和功率分流比联合优化算法。仿真结果表明,所提AID机制比现有文献中将干扰视作噪声处理有明显优势,所提混合预编码设计比传统全数字预编码方案有明显优势。另外,当系统中自干扰消除超过30dB时,残余自干扰对所提算法性能的影响几乎可忽略不计。（4）下行NOMA物理层安全通信系统资源分配算法研究为提升无线网络大连接能力和信息安全性,将多载波NOMA和物理层安全技术结合,并针对下行多用户通信系统,基于非完美窃听信道状态信息（Channel State Information,CSI）,建立了安全和速率最大化资源分配模型。基于块坐标下降法（Block Coordinate Descent,BCD）和动态匹配理论提出了人工噪声（Artificial Noise,AN）预编码、下行数据预编码以及子载波分配联合优化算法。仿真结果表明,本文所提算法具有良好的鲁棒性,相较于其他文献中算法,能够实现更高的安全和速率。（5）全双工NOMA物理层安全通信系统资源分配算法研究为进一步提升无线网络频谱效率,将本文所提的下行NOMA物理层安全通信系统资源分配算法扩展至全双工系统中。仿真结果表明,扩展的资源分配算法具有良好的鲁棒性和安全性,且全双工NOMA物理层安全通信系统比半双工NOMA以及全双工正交多址（Orthogonal Multiple Access,OMA）物理层安全系统具有显著的性能优势。