智能天线技术可以通过波束成型使得电波定向发送，MIMO技术可以在不增加带宽的情况下大大提高系统的频谱利用率，因此既可以有效抑制用户间的信号干扰，也可以用作空分多址。将智能天线技术和MIMO技术按照一定方式结合起来，得到SA-MIMO技术（智能天线MIMO）。该技术可以同时保留MIMO与智能天线的优点。本文研究了SA-MIMO系统的上行信号检测和下行发送预编码，主要工作如下:　　 (1)研究了多用户场景下的上行SA-MIMO信号检测问题。先给出了上行SA-MIMO信号模型，接着介绍了各种传统MIMO的检测算法。多用户检测技术分为最优检测和次优检测。最优检测为ML检测，球空间检测可以逼近最优解。次优检测主要有ZF检测、MMSE检测、SIC检测和OSIC检测等。同时，对一种混合ZF-ML算法进行了推广。将只适用于收发天线数目为2N×2N的算法推广至适合所有N×N系统。分别对这些检测算法应用于MIMO系统和SA-MIMO系统中的性能进行了分析比较。　　 (2)研究了多用户场景下的下行SA-MIMO线性预编码问题。先给出下行SA-MIMO的信号模型。接着介绍了各种传统的MIMO下行预编码方案。常见的MIMO下行预编码有ZF预编码、MMSE预编码、BD预编码以及最大化信号泄露噪声比等预编码方案。本文对一种改进的BD预编码进行了发送功率的分配，以达到更优的系统性能。同时对以上这些方案分别在MIMO系统和SA-MIMO系统中的性能进行的分析比较。　　 (3)研究了多用户场景下的下行SA-MIMO非线性预编码问题。先对MIMO系统中的模代数预编码进行了介绍。接着对该预编码方案分别应用于MIMO和SA-MIMO系统中的性能进行了分析比较。