多天线技术可以提高无线通信系统的链路可靠性和数据传输速率，是未来无线通信系统将要采用的关键技术。针对发射端对信道信息的获取情况，MIMO系统可以实现开环传输与闭环传输，前者以空时编码、空分复用为代表，后者以波束形成、预编码为代表。闭环传输技术由于在性能上要远好于开环传输技术，所以目前得到广泛重视。本文研究内容包括信道估计、下行信道信息反馈、以及单用户及多用户系统的预编码。主要内容如下： 1.研究了OFDM空时发射分集系统中信道盲估计。该方法仅利用空时编码及OFDM调制引入的冗余，在接收天线小于发射天线时，也可以对信道进行盲估计。对于Alamouti空时码，存在两个标量模糊因子，而对四天线3/4码率STBC仅存在一个模糊因子。由于不需要对信号进行冗余预编码，系统将有更高的速率；另外，由于不需要确切知道信道的阶数，算法对信道阶数过估计也有较好的鲁棒性。 2.研究了IFDD模式下MIMO系统下行信道信息反馈方法。该方法将上行的信息序列与下行的信道信息进行叠加后上传，而不必为下行信道信息反馈分配单独的系统资源。在略牺牲上行信息序列的误码性能的前提下，可以实现低代价、实时的信道信息反馈。由于对下行信道信息进行了扩频处理，即使分配较低的能量也能在基站侧可靠地恢复。 3.研究了多天线多用户MIMO系统中Tomlinson Harashima(TH)预编码。该方案一改传统TH预编码完全由发射端进行全部信道均衡的不足，仅实现用户之间的干扰的预均衡，而将用户内部各个数据流的均衡交给各个用户自行处理，使得系统可达速率有较大提升。利用逐次正交投影及SVD分解，可以达到信道矩阵的块下三角分解，从而实现TH预编码。由于信道矩阵分解所具有的特点，发射端可以方便地实现功率注水，而接收端则可以方便地实现最大似然检测。 4.研究了TDD模式下的MIMO预编码技术，考虑到MIMO系统上行链路中移动端仅通过单天线发射，基站利用对偶性只能得到移动端一根天线所对应的下行信道这个实际问题。提出了两种有效利用精确信道信息与统计信道信息的预编码方案：在没有反馈的情况下，最大限度地利用精确信道信息，其结果是一个流的最大比传输和其它流的统计特征波束形成；在存在有限反馈的情况下，利用约束最大似然估计得到移动端其它天线所对应信道矢量的方向，并利用SVD分解达到发射波束的选择。在以发射端相关阵特征矢量作为码本的情况下，可以以1比特的反馈量达到全部信道信息下SVD传输方案的性能。 5.研究了一种低复杂度的多用户MIMO下行链路非线性预编码方法。通过网格约化及TH预编码实现矢量扰动下的MMSE多用户预编码，以较低的复杂度实现并超过矢量扰动预编码(VP)的性能。扰动矢量的求解分解成整数扰动矢量求解与非整数扰动矢量求解两部分，前者的次优解由矢量取模运算隐式求解，而后者则通过MMSE准则也有闭式最优解。两种扰动的设计是为了同时提高系统的功率有效性并最小化系统MSE。 6.研究了多用户MIMO下行链路线性收发机联合优化设计。以系统总的MSE为设计准则，对发射矩阵及接收滤波器进行联合优化。通过对收发机的结构做一定的改进，拉格朗日乘子有解析解，而发射矩阵也有闭合解且可以通过定点迭代算法有效求解，因而完全避免了传统结构下因拉格朗日乘子要通过数值计算而带来高复杂度的缺点，大大降低了算法的计算复杂度。对于单用户单流系统，可以据此得到更加简洁的迭代算法。