近几年来,随着第五代移动通信（5G,Fifth Generation Mobile Communication Technology）部署和应用快速推进,支持第五代移动通信技术的智能手机等移动电子设备逐渐普及。现如今人们也不仅仅满足于简单的语音业务,短视频等高速率、高质量的视频等业务也已深入人们的日常生活之中,因此,未来生活中对移动通信的信道容量和速率提出了更高的要求。然而,一方面,低频段频谱资源大部分已经被使用,另一方面,5G通信系统的信道容量已无限逼近香农极限,进一步提高无线通信系统的信道容量成为未来移动通信领域一个亟待解决的问题。在未来移动通信网络中,太赫兹技术将得到广泛使用,被科研人员认为拥有极为广阔的应用场景。由于轨道角动量电磁波存在独特的螺旋相位波前,理论上模态不同的轨道角动量电磁波将会呈现天然的正交性,互不影响,被认为是无线通信领域的一个新的复用维度。因此,科研人员将轨道角动量电磁波（OAM,Orbital Angular Momentum）作为载波传输信息,以此提高通信系统的信道容量。本文结合轨道角动量技术（OAM）与多输入多输出（MIMO,Mutilple-Input Multiple-Output）技术,对收发端对准以及未对准情况下的OAM-MIMO通信系统的信道容量进行研究,主要工作内容和研究成果概述如下:（1）研究OAM-MIMO通信系统在宏小区、微小区、室内等场景下的信道容量。本文在太赫兹频段,将轨道角动量（OAM）电磁波与多输入多输出（MIMO）技术进行结合,提出了OAM-MIMO通信系统,并研究其在宏小区、微小区、室内等场景下的信道容量。首先,对于所提出的OAM-MIMO通信系统进行系统建模;其次,推导了OAM-MIMO通信系统的信道容量;最后,在宏小区、微小区、室内等场景下对OAM-MIMO通信系统的信道容量进行仿真,并比较了发射天线功率对OAM-MIMO通信系统信道容量的影响。仿真结果显示,OAM-MIMO通信系统在宏小区、微小区等场景通信信道容量显著优于传统的MIMO通信系统;在固定传输距离的情况下,OAM-MIMO通信系统的信道容量随发射天线功率的增大而增加。（2）研究偏轴情况下OAM-MIMO通信系统的信道容量。由于上述工作研究的OAM-MIMO通信系统中收发端是同轴对齐,而在实际情况中这一方案存在局限性。针对这一情况,本文研究了收发端偏轴的情形下OAM-MIMO通信系统的信道容量。首先建立了OAM-MIMO通信系统中发射端与接收端轴未对准情况下的系统模型与信道模型;其次,推导了发射端与接收端的信道矩阵;最后,推导了OAM-MIMO通信系统在偏轴情况下的信道容量公式。仿真结果表明,当收发端发生轴偏移情况时,发射端发送单一模式的OAM波,由于OAM电磁波会发生模态之间的跃迁,接收端会检测到多种模态的OAM波,导致OAM-MIMO通信系统的信道容量较对准时将出现显著下降,因此该发现表明收发端未对准是一个不容忽视的问题。