为了更好地满足无线蜂窝环境下用户对多媒体等数据业务的需求,能获取高效频谱效率的多天线技术成为了未来无线通信系统的重要技术。尤其在多用户系统中,多天线技术的引入,即使用户配置单根接收天线,仍可以使系统获得相当于发送天线数的空分复用增益,并可以获得相比于用户数目对数增加的多用户分集。传统的蜂窝通信系统中,边缘用户服务质量受小区间干扰的制约,而多天线技术的引入使得小区间干扰更为复杂。协作多小区技术,通过多基站天线间的协作,形成一个虚拟多天线系统,降低邻小区干扰信号幅度或将其转变为有用信号,极大降低了小区间干扰,获取了小区边缘吞吐率的提升。本文聚焦于不完善信道信息下,多天线技术应用于蜂窝通信系统面临的两大挑战——用户间、小区间干扰,对基于信道反馈的多天线广播信道、协作多天线多小区信道的传输反馈方法进行了深入的研究。本文首先考虑存在信道估计误差和反馈差错的多用户多天线广播信道,指出其仍能保持与拥有准确信道信息的系统一样的多用户分集和空分复用增益。进一步提出在用户数较大的情况下,基于信道阈值判决的部分用户反馈策略,在降低上行信道反馈开销的同时,仍获得了和全部用户反馈相比拟的多用户分集和空分复用。本文进一步考虑多小区信道,分析了基于有限反馈的两小区局部联合传输模式的性能。基于此,提出当激活用户任意分布于小区边缘不同位置时,协作传输模式的切换策略。本文最后针对下行多用户多天线传输,提出了基于码本阈值的预编码索引增强反馈方案,通过用户反馈矢量空间距离阈值,以提供基站多用户调度时可选配对用户的波束子集,该子集由与当前用户预编码小于反馈阈值并使得当前用户仍保持较优的信干燥比的码字构成,相比现有LTE系统多用户传输模式,提升了系统吞吐率。