发射机和接收机均采用多个天线的多输入多输出(MIMO)无线通信技术可以有效地利用多径衰落,提高频谱效率,成为未来高速无线系统的关键技术。将MIMO和正交频分复用(OFDM)或单载波频域均衡(SC-FDE)技术相结合,可以有效地克服无线电波多径传播所导致的符号间干扰。当发射机可以获得信道状态信息时,对发射信号进行预处理可以进一步提高系统吞吐量,改善信息传输可靠性。本文研究MIMO无线系统的预处理和频域均衡技术,包括MIMO空间复用系统的比特分配、多用户MIMO系统的线性与非线性预编码以及MIMO单载波系统的频域均衡。首先,根据最小平均误比特率(BER)准则,分析MIMO空间复用系统的比特分配问题。在贝尔实验室垂直分层空时(V-BLAST)结构中,将发射功率平均分配给每个发射天线,通过优化各发射天线的调制方式,改善了系统BER性能。提出贪婪比特分配算法和基于二分法的比特分配算法。与传统V-BLAST系统相比,比特分配可以明显改善系统BER性能;与现有的功率分配方案相比,比特分配没有性能损失,降低了对发射机功率放大器线性范围的要求,节约了成本。其次,针对多用户MIMO系统下行链路,研究线性预编码技术。在分析现有的线性预编码方法的基础上,提出一种联合线性预编码和功率分配的预编码方法,把复杂的联合线性预编码设计和功率分配的优化问题,分解为两步,简化了问题的求解。首先,求解线性预编码;在此基础上,根据各用户的信道状态信息,在总发射功率约束下,给各用户分配合适的功率,使每个用户的信干噪比(SINR)相同且最大化,从而改善系统BER性能。此外,对最小均方误差(MMSE)线性预编码进行简化,设计次优MMSE线性预编码(Sub-MMSE)方法。给每个用户的接收机引入一个标量增益,将线性接收机归一化,设计一个贪婪算法求解每个用户的归一化接收机向量;然后,基于MMSE准则优化预编码向量和标量增益。Sub-MMSE线性预编码方法的计算复杂度较低,性能接近最优的MMSE线性预编码方法。然后,探讨多用户MIMO系统下行链路的非线性预编码技术。提出一种Tomlinson-Harashima(TH)预编码方案,通过发射机和接收机的联合设计,有效地利用分集增益;在此基础上,给出一个次优的用户排序算法,以较低的计算复杂度改善了系统BER性能。基于采用脏纸编码(DPC)的发射机和线性接收机,提出一个多用户MIMO广播方案;当系统用户数多于基站发射天线数时,设计一个多用户调度算法有效地利用多用户分集;所提出方案的和速率容量接近Sato界,性能优于一些现有的方法。进一步,将该方案推广到多用户MIMO-OFDM系统下行链路,提出一个简单的子信道分配方法;每个子载波上,各用户的接收机采用其信道矩阵的左奇异值向量,把等效信道矩阵反馈给基站;基站通过DPC预编码,分配空间子信道,将空间向量信道分解为一系列标量信道;利用注水功率分配获得最大的和速率容量;该方法复杂度低,和速率信道容量接近Sato界,并且可以反馈部分信道信息实现接近最优的性能。最后,研究单载波系统的频域均衡技术。针对以特定已知序列作为循环前缀的单载波单输入单输出(SISO)系统,基于迫零(ZF)和MMSE准则,推导基于噪声预测的频域信道均衡方法。在均衡器输出端,计算出特定序列估计的噪声;利用均衡器输出数据估计的噪声与特定序列估计的噪声的相关特性,预测并抵消数据估计的噪声。进一步,将噪声预测的均衡结构推广到MIMO单载波系统中。从理论上详细地分析了基于噪声预测的频域均衡器的性能,与传统的频域均衡器相比,ZF噪声预测频域均衡器输出端可以获得更低的噪声功率,MMSE噪声预测频域均衡器输出端的均方误差更小。仿真结果表明,噪声预测的频域均衡器可以获得更好的BER性能。