多输入多输出(MIMO)系统因为在容量和分集方面的卓越性能,成为未来无线通信系统的发展方向。近十年来,针对MIMO系统的通信技术,如空时编码、空间复用和空分多址,成为无线通信领域的研究热点并取得很多进展。本论文研究了MIMO系统中的差分空时编码技术、单载波频域均衡技术、多用户下行链路预编码技术以及用户调度技术。论文的主要创新点列举如下:1.提出了用发射信号矩阵的幅度分量传递多个比特以提高频谱效率的差分空时编码方案,并针对该方案推导了利用相邻的两个编码周期的接收信号的差分检测算法,以及对发射信号矩阵幅度分量的序列检测算法。针对采用QAM信息字符构造差分编码矩阵的差分空时块码,提出了一种避免信道能量估计的差分检测算法。2.针对发射天线数为偶数的系统,提出了一种降低接收机计算复杂度的差分酉空时编码方案,该方案利用Alamouti空时码的正交特性和循环群的设计构造差分空时编码矩阵,能实现最大的天线分集。同传统的采用对角信号矩阵的差分酉空时编码相比,所提方案在接收端的差分检测需要搜索的酉矩阵个数大大减少,且由于所采用的循环群中的酉矩阵的维数和个数都减少了,从而也简化了设计并提高了检测性能。3.针对存在衰落相关性的MIMO信道,提出了利用衰落相关性信息设计差分空时块码的初始化矩阵的方法,设计准则是使差分检测的平均成对错误概率的上界达到最小。最优的设计同时考虑发射端和接收端的衰落相关阵,但需要采用数值方法求解。通过忽略接收端的相关性,可以得到有闭合表达式的次优设计,其性能接近最优设计。4.针对快时变MIMO信道,利用时变信道的基扩展模型,提出了一种块差分空时编码方法。该方法利用基扩展模型中各复指数基的系数在一个块内为恒定的特性,将一个块分为多个子块并在各子块间进行差分编码。通过发射端的块交织和接收端的解块交织,信号检测不需要信道状态信息,从而避免了对快时变MIMO信道的估计。通过合理地设计差分编码的子块长度及差分编码矩阵,所提方案能同时实现最大的天线分集和Doppler分集。5.考虑针对频率选择性信道频域均衡的单载波传输,证明了线性MMSE频域均衡与时域均衡的等效性。当信道的频率响应在离散Fourier变换(DFT)的频点上有零点时,考察了块长度对单载波频域均衡性能的影响并与未编码的OFDM进行了比较。推导了带时域判决反馈的MMSE频域均衡器设计,在推导中考虑到了实际使用的反馈抽头数随块内已检测的字符数的变化。针对两路空间复用的空时块码信号,推导了接收端的频域干扰抑制和MMSE均衡算法。在此基础上,提出了根据均衡后的均方误差的大小进行排序的分层检测算法,通过利用接收分集提高了后检测的一路信号的误码率性能,并进一步提出了迭代检测算法使两路信号的误码率性能都得到了提高。6.针对采用块对角化预编码的MIMO多用户下行链路,分析了用户天线数对空间自由度及系统容量的影响,提出根据系统配置对用户天线进行选择以提高系统容量。直接最大化系统容量的最优用户天线选择算法需要很高的计算复杂度,为了降低计算复杂度,提出了两种基于等效信道