多入多出(Multiple Input Multiple Output,MIMO)是指收发双方都配置多根天线的信号处理技术。在提升无线通信系统物理层频谱效率方面,MIMO技术是目前最有效的手段。由于受到终端大小、功耗等限制,终端一般都配置比较小的天线数,导致点到点MIMO技术受限。多用户MIMO技术的提出能够有效地解决上述问题。另外,为了提升频谱效率,未来无线通信系统趋向于全频率复用,这就导致用户受到严重的干扰,包括小区内干扰和小区间干扰。预编码技术是消除多用户、多小区MIMO系统中的干扰的有效方法。另一方面,多用户、多小区下行MIMO系统中,如果要完全消除用户收到的干扰,基站(Base Station,BS)需要获得理想信道状态信息(Channel State Information,CSI)。而在通信应用中,BS只能获得非理想CSI。本文针对非理想CSI以及预编码性能问题,主要做了如下工作:①研究非理想CSI下的多用户下行MIMO系统鲁棒波束成形问题。首先提出一种基于最小均方误差(Minimum Mean Square Error,MMSE)的多用户下行MIMO系统鲁棒波束成形算法,该算法适用于集中式多用户MIMO系统。然后提出了一种基于信号泄露的MMSE的分布式鲁棒波束成形算法。两种算法均考虑信道估计误差、量化误差和延时误差,通过仿真验证了本文所提两种算法相比传统MMSE算法均具有更好的鲁棒性。②研究基于块对角化(Block Diagonalization,BD)的多小区协作下行MIMO系统预编码算法。首先介绍基于BD的网络MIMO预编码算法和基于BD的多小区协作MIMO预编码算法。并提出一种基于BD的多小区部分协作下行MIMO预编码算法,BS只需要共享边缘用户CSI,极大减少了CSI回传,且本算法中采用CSI有限反馈,本文还分析了CSI有限反馈所导致的速率损耗。③研究非理想CSI下的多小区部分协作下行MIMO系统双层鲁棒预编码算法。针对第4章所提出的多小区部分协作下行MIMO系统BD预编码算法,在非理想CSI环境下系统速率损耗较大的问题,提出一种具有鲁棒性的多小区部分协作下行MIMO双层预编码算法,该算法内层预编码算法使用干扰清零算法消除边缘用户所受到的小区间干扰,这属于多小区部分协作范畴;外层预编码使用鲁棒信漏噪比(Signal to Leakage and Interference Ratio,SLNR)算法消除小区内干扰。所提算法相比第4章所提算法,不仅保留了CSI需求较少的优点,还能够减少速率损耗,极大提升系统和速率以及用户的误码率性能。④研究基于用户服务质量(Quality of Service,Qo S)的多小区协作下行MIMO鲁棒波束成形问题。提出一种基于Qo S约束的最小化发送功率和泄露功率之和的多小区协作下行MIMO波束成形设计,并利用上下行链路对偶性,获得了一种复杂度较小的迭代算法。仿真结果表明,在同样目标信干噪比(Signal to Interference plus Noise Ratio,SINR)约束下,本文所提算法相比传统的多小区下行协作波束成形算法,BS需要的发射功率更小。