大规模MIMO（Massive Multiple-Input Multiple-Output）系统凭借其装备的几十甚至上百根天线，可以获得极高的频谱效率和能量效率，从而得到了越来越多的关注。但是对于频分复用(Frequency Division Duplexing，FDD)系统来说，由于上下行信道之间不存在互易性，用户的信道状态信息只能通过下行信道估计和上行的信道状态信息（Channel State Information at Transmitter，CSIT）反馈得到，因此巨大的信道信息反馈的消耗极大地限制了基站天线数的增加。为了减少系统中下行信道估计和上行信道状态信息反馈造成的资源消耗，Ansuman Adhikary等学者提出了一种联合空分复用(Joint Spatial Division and Multiplexing，JSDM)方案，该方案的主要思想是将通信小区中的用户根据各自的信道协方差信息分到不同的组内，并对该通信小区采用二级预编码技术，其中用户分组技术可以极大地降低系统的维度，而二级预编码技术可以极大地简化预编码过程。　　本文基于JSDM方案在大规模MIMO系统中的应用，对用户分组方法，用户选择和功率分配技术做了深入研究，研究内容如下:　　(1)大规模MIMO系统中基于密度聚类的用户分组方法研究。该部分在JSDM方案的基础上研究了DBSCAN(Density Based Spatial Clustering of Application with Noise)算法在用户分组方面的应用，利用用户的密度分布情况，将所有用户分成若干组。本部分利用了用户的协方差信息，将具有相似协方差信息的用户分到一组，并且找到一个具有代表性的协方差矩阵来代替本组中所有成员的协方差信息，从而实现系统降维。DBSCAN算法可以找到任意形状和大小的分组，且不受离群用户的影响，可以找出离群用户。DBSCAN算法不需要事先指定用户分组数，但是需要事先确定2个参数，为了得到这两个参数信息，在本部分还采用了k-dist图预先粗略判断整个小区内的用户密度分布情况，根据k-dist图中得到的信息来确定所需的2个参数。仿真结果表明，基于密度的聚类可以得到更好的分组效果，使系统和率得到较大的提升。　　(2)基于稳定密度聚类的大规模MIMO系统用户分组方法研究。本部分考虑到在实际通信小区中是存在路径损耗和噪声，提出了一个基于稳定密度聚类的用户分组方法，该方法以分组结果的稳定性为目标，提出了一个自适应的用户邻域半径参数，和用户分组准则。首先，以通过k-dist图得到的用户邻域半径为基准，让每个用户的邻域半径随着用户的路径损耗和噪声自适应变化。同时在分组过程中综合考虑协方差信息、地理位置和路径损耗，使分组结果在一段时间内具有较好的稳定性。仿真结果表明，本章提出的基于稳定密度聚类的分组方法可以降低系统计算量。　　(3)基于系统和率考虑的大规模MIMO系统用户选择和功率分配方法研究。该部分研究在小区用户已经分组的基础上，以最大化系统和率为目标，分组地进行用户选择，同时在整个系统的波束上进行功率分配。初始化功率分配后，根据功率分配结果进行用户选择，然后再反过来根据用户选择的结果，利用拉格朗日乘子法优化分配到各条波束上的功率，如此迭代地进行选择用户和优化功率，直到系统和率达到收敛。同时由于在这个过程中，组内用户之间的干扰没有消除，会影响用户选择和功率分配结果，因此在这个过程中，计算信干噪比(Signal to Interference plus Noise Ratio，SINR)时忽略组内用户干扰。仿真结果表明，提出方法可以有效地提高系统的和率，尤其是在忽略组内干扰的情况下，系统和率得到了较大的提升。