在无线通信系统的发射端和接收端设置多天线能有效的提高信道容量、系统的通信速率和抗衰落能力。然而在现实的复杂环境下,信道的特征可能是多变的。终端的移动会造成信道的快速时变,而使得信道的估计值产生偏差,因此影响对信号的估计。配置在移动终端的多天线会因为尺寸因素而使不同信道产生空间相关性,从而影响系统的性能。本篇论文将讨论快速时变且空间相关的多天线系统中的一些研究成果和相应的算法。在信道快速时变的环境中,准确获取即时信道信息(CSI)需要发送更多的训练序列。尤其对于多天线通信系统,由于接收端需要估计更多的信道,系统需要消耗巨大的资源。如果在接收端不需要估计CSI,这些资源便可节省下来。我们称在接收端不需要CSI的系统为非相干系统(Noncoherent System)。由于在信道快速时变时系统容易获取信道的统计信息,本文首先分析有准确信道统计信息的非相干系统。当信道高速时变时(相干时间为一个或两个时隙),利用已知信道的统计信息,本文提出了特征向量调制和正交信号设计两种方法。特征向量调制将信息比特1调制成发射相关矩阵的最大特征向量,将信息比特0映射成0特征向量。正交信号设计将信息比特映射成在时域上相互正交的两个向量;同时将发射信号设计成沿着发射相关矩阵的最大特征向量方向。研究表明,与以往认为的空间相关性会降低相干多天线系统的分集增益不同的是,这两种技术将带来发送相关增益。在高速时变信道中,当发送端的空间相关性越大,利用以上两种传输方法的性能越好。然后,本文还研究了获取信道的统计信息的方法并提出了在一种快衰落信道中估让信道空间相关矩阵的新算法。在快速时变信道中利用空时码进行差分传输也是非相干多天线通信的一种有效的方法。差分空时码具有在接收端无需进行信道估计并进行低复杂度信号检测的特点,同时可以提高分集增益。然而,差分空时码性能低于相干空时码性能3dB。因此,如何优化差分空时码通信是研究非相干系统的一个重要内容。为此,本文提出了一种新的差分空时码系统。首先,本文把差分检测器等效为复合信道估计和相干检测两个部分,并以此提出了广义差分空时码的帧结构。广义差分帧由参考部分和信号部分组成,每一个参考部分和信号部分中的空时码块将是前一个参考部分空时码块的差分编码。研究表明,在参考部分和信号部分通过最优功率分配,广义差分空时码系统的性能可以高于传统差分空时码系统性能3dB,并接近相干空时码系统的性能。此外,本文研究了利用信道统计信息提高传统差分空时码性能的方法。由于差分空时码系统中多入多出(MIMO)和多入单出(MISO)系统具有对应特性,本文设计了基于信道统计信息的发射端最优波束成型器。仿真结果表明,当空间相关性较大时,最优波束成型器可以提高传统差分空时码系统性能1dB。