移动通信和信息社会的高速发展对宽带高速数据传输提出了越来越高的要求。毫米波MIMO成为实现高速数据传输的重要技术途径。考虑到一些特殊的需求和应用场景,比如对偏远地区的覆盖,构建应急通信系统,特别是军事宽带战术互联网,基于空中移动平台的毫米波MIMO技术成为当前研究的一个热点问题。目前,关注的热点是基于空中平台和毫米波MIMO技术实现区域骨干通信网络。本文主要围绕这一应用背景,针对其中的关键技术开展研究,推动基于空中平台的毫米波MIMO系统的工程化应用。基于空中平台的毫米波MIMO系统存在以下主要问题:1.基于空中平台的毫米波MIMO信道具有较少的散射和反射分量,可以建模为视距（LoS,Line-of-sight）信道。在LoS MIMO信道下,天线阵列天线之间的相关性较强,降低了MIMO通信系统的性能。2.大规模天线阵列往往具有较高的硬件复杂度和功耗,而空中平台体积和能源有限,限制了大规模天线阵列的应用。本文针对上述问题开展了相关的研究工作,主要工作总结如下:（1）本文利用射线追踪原理建立了点对点毫米波LoS MIMO信道模型,并且分析了LoS MIMO的信道特性。天线阵列的参数包括天线间距、收发端距离和天线阵列的角度都会对LoS MIMO系统的性能产生影响。因此,在LoS MIMO信道下,获得天线阵列的最优布局至关重要。（2）本文利用解析法来获得均匀线性天线阵列（ULA,Uniform Linear Antenna Array）和均匀平面天线阵列（UPA,Uniform Plane Antenna Array）的最优布局。然而,并不是所有类型的天线阵列都有最优布局的解析解,本文提出了更具有一般性的牛顿迭代法,并以均匀圆形阵列为例,利用牛顿迭代法来获得天线阵列的最优布局。均匀圆形天线阵列（UCA,Uniform Circular Antenna Array）结构紧凑,对互耦合敏感度较低,适合部署在受空间约束的空中平台上。在基于空中平台的LoS MIMO通信系统中,收发端距离通常都处于不断地变化当中,而天线阵列一经设计其参数往往都是固定的。因此,本文提出了基于信道状态信息的自适应发射天线选择算法,该算法可以根据信道状态信息的变化自适应地确定被选天线的数目和序号。基于信道状态信息的自适应发射天线选择算法不仅可以降低信号处理的复杂度和反馈开销,还可以获得接近全天线阵列系统的性能。（3）本文基于LoS MIMO的信道特性,提出了有效自由度（EDo F,Effective degree of freedom）的概念和一种基于字典学习（DL,Dictionary learning）的自适应混合波束成形设计算法,推导了在LoS MIMO信道下EDo F和天线阵列参数之间的解析表达式。在LoS MIMO通信系统中,发射数据流的数目由EDo F来确定,可以根据信道状态的变化自适应地进行调整。数值仿真实验显示基于字典学习的自适应混合波束成形系统的性能接近最优的全数字波束成形系统的性能。（4）本文针对基于混合波束成形技术的多用户MIMO（MU-MIMO,Multi-users multiple-input multiple-output）通信系统,提出了一种基于块对角化几何均值分解（BD-GMD,Block diagonalization geometric decomposition）的THP（TomlinsonHarashima Precoding）预编码算法,并应用字典学习的算法进行混合波束成形设计。相比传统的基于块对角化奇异值分解（BD-SVD,Block diagonalization singular value decomposition）的THP预编码算法,BD-GMD可以改善毫米波多用户MIMO通信系统的误码性能。数值仿真实验显示基于本文所提算法的混合波束成形多用户MIMO系统的性能接近全数字波束成形多用户MIMO系统的性能。