Massive MIMO (Multiple-Input-Multiple-Output)作为传统(?)MIMO技术的延伸,可以大幅度提升吞吐率和能量效率,是未来无线通信的一个重要研究方向。Massive MIMO需要在基站采用大规模的阵列来服务有限的终端用户,这使基站天线阵列的尺寸大幅度增大,安装难度也相应大幅增加。本文重点研究基站端阵列天线的空域相关和互耦对Massive MIMO系统性能的影响。在此基础上,本文进一步研究了基于双极化天线的Massive MIMO系统。基于双极化天线的Massive MIMO系统可以在不改变系统性能的情况下减小基站端的阵列占用面积。本文首先在多天线理论技术的基础上对Massive MIMO系统的基本特征进行分析,包括时分复用双工的上下行传输、导频污染的起因及其影响、预编码算法及其性能等。其次,在阵列天线指数相关的条件下,本文分析了基于单极化天线阵列的Massive MIMO系统。理论推导证明此系统与传统的无相关单极化Massive MIMO系统有相同的渐进SIR (Signal to Interference Ratio)性能。对理论推导的结论我们进行了仿真验证,证明了该结论的正确性。在此基础上,我们将相关和互耦与基站阵列结构设计相结合,仿真对比了有无基站阵列面积限制两种情况下的用户速率。通过对基站端阵列面积受限情况的分析我们发现,随着天线数的上升,天线彼此之间的相关和耦合效应不断增强,单位用户速率趋于饱和。最后,本文分析了旨在节省基站端阵列面积的基于双极化天线的Massive MIMO系统,分析并验证了其相对于传统基于单极化天线的Massive MIMO系统的空间利用率的提升。