在当前无线频谱资源日趋紧张的情形下,如何进一步满足5G无线通信持续增长的速率需求,成为未来移动通信技术面临的关键问题。在5G系统中引入毫米波大规模阵列有助于满足日益增长的移动数据量需求,然而存在诸多挑战,如RF(Radio Frequency)硬件成本、功耗等。毫米波信号传输损耗大,受雨水、大气影响显著,通过大规模MIMO(Multiple Input Multiple Output)波束赋形增益可补偿信号的传输损耗。因此在5G毫米波大规模MIMO系统中的混合预编码技术、波束管理是学术界、产业界研究的重点。随着大数据的发展,数据计算与处理能力的大幅度提升,人工智能也在如火如荼地发展,并被广泛应用到各个技术领域。本文结合人工智能技术,围绕混合波束赋形技术以及波束分配方案展开研究,本文主要工作内容如下:1.通过求解和速率的最优化问题来提升毫米波大规模MIMO系统的和速率,进一步提高系统信道容量。本文将混合预编码与遗传算法结合,提出基于遗传算法的混合预编码(Hybrid Precoding Based on Genetic Algorithm,HP-GA)设计方案,并与自适应交叉熵(Adaptive Cross Entropy,ACE)算法和协同更新(Coordinate Update Algorithms,CUA)算法进行比较,所提算法的频谱利用率比ACE算法提高2.6bit/s/H z,比CUA算法提高1.5bit/s/Hz。在复杂度上,所提算法的复杂度比CUA算法的复杂度高,而与ACE算法的复杂度相当。2.利用好有限的空域资源是提升通信系统性能的关键所在。首先,本文将波束分配问题转换为分类问题,然后结合机器学习中的随机森林模型进行建模。由暴力匹配算法(Brute Force Algorithms,BF)获取波束配对的数据集,在此基础上结合毫米波信道传输特性,引入方向距离比、标识波束干扰等指标,提出了一种基于特征组合的随机森林波束分配方案。仿真结果表明,该算法的分类准确度比传统随机森林算法提高了2%~3%,且随着随机森林规模增加,分类准确率的波动较小。基于分类模型得到的平均用户和速率优于低复杂度波束分配(Low Complexity Beam Allocation,LBA)算法,但比暴力匹配算法得到的用户和速率略低。