电磁轨道角动量(Orbital Angular Momentum,OAM)因其模态间相互独立且正交的特性,能有效提高频谱效率和信息传递的安全性而备受关注。作为一种新的自由度,如何产生多模态OAM波是至关重要的问题。以往的基于天线阵的OAM技术采用圆形阵列,不易与基于矩形阵列的多输入多输出(Multiple-Input MultipleOutput,MIMO)多天线系统结合。本文以设计一种基于矩形MIMO天线排布的OAM-MIMO高效传输技术为目标,研究矩形天线阵产生多模态OAM波的基本理论,设计基于稀疏阵列的OAM波优化方法,研究开发基于矩形阵列的多模态OAMMIMO复用传输技术。主要研究工作概括如下:首先,本文创新性地给出了一种基于大型平面矩形阵列生成OAM波的方法。通过仿真分析不同阵列参数的平面矩形阵列生成的OAM波的幅度相位特征,证明该方法能有效生成不同模态的OAM波。其次,为了降低系统的复杂度和解决OAM波束的发散性问题,本文将稀疏阵列技术应用到OAM波的优化。在一定的稀疏率下,采用遗传算法找出最佳的稀疏阵列,在稀疏阵列上生成OAM波的同时还能实现波束的优化。此外,为了能够进一步优化OAM波,本文采用粒子群算法优化稀疏阵列激励。结果表明,对比分析OAM波在不同稀疏率和阵列激励优化下的性能,将8?8的矩形阵列的总元素减少约25%,实现旁瓣电平从-11.56 d B降低到-20.76 d B。另外,与普通平面阵列生成OAM波相比,该方法具有低成本和低复杂度等优势。最后,在基于矩形阵列产生多模态OAM波的基础上,本文建立和分析了稀疏前后的OAM-MIMO通信系统模型,并对稀疏前后的系统信道容量进行对比。仿真结果表明,随着信噪比和发射天线数量的增加,二者的信道容量也会随之增长。另外,针对模态为+1的OAM波或多模态OAM波复用的无线通信系统,在减少发射的天线同时,稀疏后的信道容量与稀疏前非常逼近。这项工作将有助于OAM在现有的大规模MIMO或2D阵列中的应用,以及对基于无线电波OAM的其他技术有帮助,如安全通信、量子加密等。