多天线系统以其利用空间资源的独特优势,成为无线通信近十多年的研究热点。由于多天线能够在有限的时频资源下,获得更高的通信速率和可靠性,MIMO(Multiple Input Multiple Output)技术已经成为新一代移动通信系统标准IMT-Advanced中的核心物理层技术之一。MIMO系统中的预编码和用户调度技术是近几年发展最快的分支,从理论研究到工业标准,重点都已从针对单小区单用户系统,转移到单小区多用户系统,以至多小区多用户系统中的空时频多维预编码及用户调度技术的研究。本论文以矩阵分析、信息论及信号处理理论为主要工具,针对多用户MIMO系统下行链路中,特别是在发射端仅仅拥有各个用户有限的信道状态信息的条件下,基站如何进行用户调度,如何合理地设计各个用户的预编码等问题展开研究。研究的目标为降低不同用户间的共信道干扰,降低不同小区间的多小区干扰,并且最大化各个用户自身的等效信道增益。最终通过合理的通信机制和优化的信号设计,提高系统级的指标,如系统的和容量或误码率。鉴于实际工程的可行性,提出方法也综合考虑了系统性能和复杂度的合理折中,以及现有无线通信技术标准3GPP LTE中的一些因素。全文主要内容如下:第一章介绍了MIMO预编码及用户调度技术的研究背景,主要包括和本文工作密切相关的概念介绍和分类。第二章提出了一种基于信号泄漏噪声比(Signal to Leakage plus Noise Ratio, SLNR)的用户调度算法。在该算法中,决定某用户是否被服务是依据SLNR指标,而不是传统的信干噪比(Signal to Interference plus Noise Ratio, SINR)。SLNR指标兼顾了各用户自己信道增益大以及对其它用户的干扰小两方面的优势,用于用户调度可以提高系统的和容量。根据系统的待选用户数是稍大于还是远远大于发射天线数,提出了两种具体的调度算法。所提出的算法可以在完美信道信息以及有限反馈的信道信息下使用。第二章还从理论上分析了多用户MIMO系统中,收发天线数、待选用户数、每用户的反馈比特数等关键参数对系统和容量的影响。在高信噪比和待选用户数很大的情况下,给出了为保持一定的和容量,上述参数之间需要满足的关系式。该分析结果可以作为系统参数设计的一个参考准则。第三章提出了一种有限反馈信道信息下的用户调度和预编码的联合优化设计。在提出的方法中,以基站和用户预存的码本为基础,利用用户反馈的码字序号、等效信道增益和量化误差,实时地计算新的预编码矩阵并选择用户。由于预编码向量是实时生成而非固定的,相当于增加了反馈码本的大小。提出的方法将用户调度和预编码两个过程联合优化,取得了一定的跨层优化的增益。第四章研究多小区多基站环境下的预编码问题,提出了一种基站端的预编码和用户端的接收合并向量交替更新的迭代算法。在多基站共享用户信道信息的前提下,提出的迭代算法可以在各个基站独立完成,并不需要基站和用户多次的信令交互。具体地,将三种经典的单小区的预编码扩展到了多小区的环境下,并将它们运用到提出的交替迭代更新的算法中。提出的收发端交替更新的方法,能够有效地平衡本小区所需信号功率与对相邻小区干扰之间的矛盾,通过基站处的几次迭代,就可以获得很好的系统和容量。第五章提出了一种在MIMO信道时间相关性较强的情况下,基于信道预测值的信道反馈机制。在该方法中,收发端采用相同的方法预测信道,用户仅仅将信道的预测值和真实值之差量化和反馈给基站。由于用相同的比特数去量化一个更小的量,因而可以提高量化精度。第五章还根据Lloyd算法思想,给出一种基于大样本信道采样值的码本设计的方法,该码本可以体现实际信道的统计特性,其性能优于传统的Grassmannian码本。最后,第六章总结了全文,并指出了关于多用户预编码与调度技术的下一步研究建议。