由Telatar和Foschini奠基的MIMO系统信息论证明了，MIMO系统能够获得数倍于单天线系统的信道容量。这一新理论打破了由Shannon建立的无线通信系统的理论架构，推动了各种传统通信技术向MIMO技术的快速转变。在众多MIMO技术热点问题中，系统性能评价的另一个重要评估指标误码率，也受到研究者的极大关注。由于MIMO系统的随机信道矩阵的结构复杂，涉及许多比较深层次的数学基础问题，MIMO系统的误码率的理论研究一直进展缓慢。本文对这个问题进行了深入的研究。同时，本文还研究了MIMO系统正交空时编码的预编码问题。本文研究了一类MIMO系统，其时间分集通过符号重发实现。在同一块周期内，每次发射天线的发射增益和接收天线的接收增益可以不同。系统通过调节发射天线的发射增益，来控制信号的发射功率；通过调节接收天线的接收增益，来最大化接收信号的信噪比。根据天线发射功率控制的描述方式，我们将系统分为三类：空间发射分集系统、迹约束系统、特征值约束系统。符号的多次发射权重向量构成了该符号在各天线的发射权重矩阵。在一个块内若有多个不同的符号需要发射，可以为各符号选取恰当的权重矩阵以形成需要的空时分组编码。在该系统误码率的研究中，本文根据所得误差函数的一个等价有限积分形式，利用有限积分中被积函数的特殊性，将一个复杂的随机函数的均值问题转化为可以较容易解决的一类随机函数的均值问题。同时，引入了Karhunen-Loeve变换，将相关的系统子信道系数向量，转化为元素间不相关的系数向量。在此基础之上，研究了该空时分集系统在不同功率约束下，信道独立的瑞利衰落系统和信道相关的瑞利衰落系统的平均误码率问题，得到了五个方面的主要结果：(1)空间发射分集系统的平均误码率公式；(2)到第j接收天线的所有信道衰落系数构成一个向量，若该向量与到第k接收天线的所有信道衰落系数构成的向量具有线性关系，本文得到了在这个信道条件下迹约束系统平均误码率公式；(3)特征值约束系统的平均误码率公式；(4)在信道矩阵发射相关情况下，特征值约束系统的系统误码率公式及上下界；(5)在信道矩阵接收相关情况下，特征值约束系统的系统误码率公式及上下界。在正交空时编码的预编码研究中，作者引入了误差函数的复合随机变量函数的期望的估计不等式，得到了正交空时编码系统平均误码率的一个新的上界。基于该上界，提出了正交空时编码系统的一个预编码准则，形成了预编码矩阵对应的最优化问题。在发射天线数不大于空时分组的空间维数的情况下，得到了Kronecker积和非Kronecker积形式的发射相关相应的预编码矩阵。通过分析发现，MIMO系统的发射天线副数大于空时分组编码的空间维数时，不存在满足本文所提出的优化问题的预编码矩阵。用本文形成的方法推导得到了A．Hj(?)rungnes和J．Akhtar的预编码矩阵优化问题。本文所得准则在分析发射相关的系统时，明显降低了预编码矩阵求解的计算量和复杂度。