大规模MIMO技术由于能够显著地提高频谱效率和系统容量,已成为未来通信的关键技术之一。FDD大规模MIMO系统由于不具有信道互易性,当获取CSI开销巨大时,将导致系统性能受限。本文主要研究FDD大规模MIMO系统中可适用的分组技术,以进一步提高系统性能,主要包括FDD大规模MIMO系统下一种基于天线分组反馈压缩方案的研究,适用于FDD大规模MIMO系统的一种基于天线分组的GSM发射方案的研究,以及FDD大规模MIMO系统中联合空分复用技术用户分组算法的研究。首先,本文介绍了大规模MIMO系统的相关技术,包括基于完整CSI的线性预编码技术,适用于FDD系统的基于码本的预编码技术,还介绍了一种适用于FDD大规模MIMO系统的新型开环空分复用技术:空间调制(SM)。然后,本文研究了FDD大规模MIMO系统下一种基于天线分组的反馈压缩方案。给出了该方案的基本思想,以及CSI的获取过程,给出了该反馈方案的反馈包结构,并在相关信道下设计了一种有效的分组类型选择方案,并且给出了该反馈方案的性能分析和复杂度分析。仿真结果表明,在获得相同的反馈性能时,相比于传统矢量量化反馈方案,基于天线分组的反馈压缩方案能够节省20%以上的反馈开销。接着,本文介绍了一种适用于FDD大规模MIMO系统的开环空分复用技术:广义空间调制(GSM),并研究了一种新的GSM发射方案:gGSM。其中gGSM的主要思想是对发射天线分组,每个天线组独立进行SM处理,天线分组方式包括交叉分组和块分组。通过仿真发现,与传统GSM发射方案相比,gGSM在发射相关性高的场景下具有更好的误码率性能,更加适用于FDD大规模MIMO系统。之后,本文研究了联合空分复用(JSDM)技术里的分组算法。作为联合空分复用的关键步骤,用户分组极大地影响了系统的性能。给出了JSDM技术的系统模型和主要思想,阐述了JSDM的两种二级预编码方案,并研究了两种典型的用户分组算法,并对其中的Improved k-means分组算法进行了改进。仿真比较了采用不同用户分组算法的JSDM方案的和速率性能。