多输入多输出(Multiple Input Multiple Output,MIMO)技术基站端装有大量的天线,使得系统的频谱效益和能量效率都得到了极大的改善。不仅如此,由于不同用户间的信道趋向于正交,仅用简单的线性解码方法,如迫零(ZF)解码法或最小均方误差(MMSE)解码法,就可以取得极优的性能。但正是由于大规模天线的安装,也带来了硬件实现和软件技术上的困难。首先,大规模MIMO系统的基站端部署了大量天线,需要大量的射频(Radio Frequency,RF)链路来处理信号。在传统的全数字结构中,每根天线都有一条RF链路与之相连来处理信号,这种方式有较优的性能,但是RF链路中会包括模数转换器/数模转换器(Analog-to-digital converters/Digital-to-analog converters,ADCs/DACs)等能耗十分大的设备。考虑到设备的成本和空间限制,大规模MIMO系统难以使用全数字处理方法。近来,已有一些研究工作提出了使用混合结构方案,将RF链路数量保持在可接受范围内,但是他们的工作都基于以下假设:基站端或用户方具有完全的信道状态信息(Channel State Information,CSI)。实际场景中,在混合系统的硬件架构下很难获得完美的CSI,因此可能需要额外的硬件系统或复杂的信号处理技术,这无疑会导致额外的成本。其次,在频分双工系统(Frequency Division Duplex,FDD)中,由于上行和下行信号在不同的频段传输,所以不像时分双工系统(Time Division Duplex,TDD)一样可以通过信道互易性来获取下行CSI,FDD系统获取下行CSI需要利用有限反馈技术。但是基站端的天线数目较为庞大,这也将导致反馈开销剧增。针对上述问题,本文提出了相应的两种解决方案。第一,本文提出了一种利用少量RF链的发射机与接收机的系统方案,及基于此系统的信号处理方法,包括信道估计方法及相应的数据解码方法。仿真实验表明,本文所提方案在性能上接近于全数字式系统,但RF链数目下降了许多。第二,本文提出了能有效减少反馈开销的高维分段预编码方法和相应的快速码字搜索法。此分段预编码方法能使系统达到较高的信道利用率,快速码字搜索法能在较大维度的码本中快速找到和信道匹配的码字,降低了搜索的计算复杂度。