近年来,无线移动通信已成为通信领域的研究热点。目前,已有多项技术被人们看好,将很有希望成为未来移动通信系统架构中的关键技术。这其中包括能有效克服多径效应,提高系统数据传输速率的OFDM (Orthogonal Frequency Division Multiplexing)技术,基于空分复用或空间分集,能显著提高系统容量或有效改善系统性能的MIMO(Multiple Input Multiple Output)技术等。正是在这种应用和研究背景下诞生的空时编码(Space-Time Code, STC)技术受到广泛重视。本文在国家“十五”863计划重大课题“新一代蜂窝移动通信系统无线传输链路技术研究(2001AA123014)”和国家自然科学基金重大项目“未来移动通信系统基础理论与技术研究”子课题“基于MIMO-OFDM系统的空中接口自适应技术研究(60496310)”的资助下,针对恶劣的无线移动通信环境,如信道空间相关、时频选择性衰落等,对多用户环境下的空时编解码传输方案、预编码技术等进行研究,力图通过稳健的解码器设计或者预编码技术的运用改善系统对抗衰落的性能。论文首先基于已有空时相关MIMO信道模型,分析给出了联合空时互相关函数解析表达式,并推导给出了空时分组编码传输方案理论成对错误概率表达式。通过评估收发两端天线阵列间距、倾斜角度及其散射体角度扩展、不同信道时变等因素对空时分组编码传输系统性能影响,进一步验证了该空时相关MIMO信道模型的正确性。同时,已有的空时相关信道模型,或者仅考虑信道空间相关,或者仅考虑信道时变。我们提出了一种混合模型对信道空时相关联合建模。最后,基于上述两种空时相关信道模型,评估给出:当信道时变较小时,大的信道空间相关带来系统性能损失更为严重;而当信道时变增大时,无论信道何种程度空间相关,大的信道时变则主导系统性能损失。由此可见,信道特性,诸如空间相关、时频选择性衰落等,特别是多用户环境下,对空时编解码传输方案设计有着重要影响。在以往的空时分组编码多用户上行系统中,ZF和MMSE解码器设计方案均假定信道准静态衰落,信道一旦时变,则接收端在解码某用户信号时即引入符号间干扰,且这种干扰随信道时变增大而增加。由此提出了两类新解码器设计方案。方案一,基于时变信道下接收信号表达式联合解码,从而去除解码期望用户信号时符号间干扰的影响。方案二,基于ZF思想,构造一变换矩阵,作用该矩阵于接收信号矢量使之对角化,从而达到去除符号间干扰影响之目的。上述两类解码器设计方案仅适用于时变平坦衰落信道、2用户上行系统。接着,将上述适用于2用户系统的新解码器设计方案推广至已有空时分组编码多用户系统框架,替代迭代软入软出多用户检测方案,从而降低计算复杂度。然后,结合OFDM技术,基于每个平坦衰落子载波信道运用上述新解码器设计方案,将其推广至时频选择性衰落信道、多用户上行系统。在各种系统配置下,相对于已有传统解码器,新解码器获得显著性能增益,同时不存在误码平层现象。对于传统的组分层空时结构解码器设计方案,首先利用组检测技术获得期望分组的发射信号,再空时解码获得该分组内的发射符号。Dai提出了一种解码器设计方案,但其本质思想并未改变,即首先运用组检测技术抑制组间干扰,再最大似然解码获得期望分组内的发射符号。已有解码器设计方案均假定信道准静态衰落,信道一旦时变,则不再适用。作为改进,我们提出了一种适用于时变信道、组分层空时结构的新解码器设计方案。对于该方案,首先构造“正交对”矩阵去除所有分组内符号之间的干扰,再运用递推降维矩阵求逆算法,并行检测获得所有分组的发射符号。我们将证明,Zhuang提出的适用于时变信道、4发天线系统的解码器即为本文的特例。与传统的解码器相比较,新设计的解码器计算复杂度得到大大降低。论文最后针对多用户下行空分复用系统,提出了一种预编码器设计方案。在基站发射端,根据最小平均矢量符号错误概率准则,预编码器构造为所有用户信道状态信息的函数。由于多用户干扰在基站端被预去除,所以终端用户仅利用简单的线性解码即可获得发射符号。该多用户下行空分复用系统预编码器设计方案获得了与单用户预编码系统几乎一致的性能。接着,针对频率选择性衰落信道,提出了一种适用于多用户下行MIMO-OFDM系统的预处理传输方案。在基站发射端,通过所有终端用户在每个子载波信道上发射预处理矢量的良好设计,将多用户下行MIMO系统转换为并行独立的单用户MIMO系统,并确保每终端用户的多用户干扰被良好去除。在用户接收端,利用简单的线性解码即可获得最大解码后符号信噪比,从而最小该用户误码率。