随着移动通信技术的发展,未来蜂窝网络中的用户数量将会以飞快的速度急剧膨胀,小区间干扰的影响也会越来越显著。由于小区间干扰的存在,现有通信系统的性能受到了极大的限制。小区间干扰渐渐成为制约新一代无线通信系统发展的关键因素。因此,对针对蜂窝系统中小区间干扰的高效抑制技术的研究势在必行。预编码技术作为一种极具研究潜力的多小区干扰抑制方案,通过在发送端对信号进行预均衡处理,使小区间干扰受到抑制或抵消,并能有效减少接收端的复杂度,比较适合在移动终端较多的蜂窝系统中使用。在各种预编码方案中,线性预编码算法实现简单,但性能很难达到最优；非线性预编码性能较好,但算法复杂度较高。基于最大化Virtual Signal Interference plus Noise Ratio (VSINR)的预编码方案,简化了原先基于SINR的预编码方案的算法,能有效提高系统性能,为基于预编码的干扰抑制方案提供了一个新的思路。本文重点研究了基于有限反馈的基站间独立预编码,即分布式预编码,并结合功率分配方案对系统性能进行了综合分析。各基站采用分布式预编码可以简化基站间的通信负担,通过有效的预编码设计还可以降低将基站与移动终端间的信道信息反馈。本文在最大化VSINR的预编码方案基础上,还研究了THP二次预编码,将VSINR与THP非线性预编码结合,简化了THP算法,提升了预编码方案的抗干扰性能,并仿真分析了二次预编码的性能。仿真结果表明,改进的预编码方案性能在复杂度与系统误码率性能间得到了较好的折中。此外,预编码方案可以与其他形式的干扰抑制方案有机融合,在不过分增加系统负担的基础上,进一步提升系统容量。多小区系统中的干扰抑制方案还要综合考虑基站间的协作程度、功率分配机制,以及传输方式。往往随着场景的不同,预编码方案也有着不同的抗干扰性能。本文中主要考虑的场景是多小区MIMO下行链路,基站间进行分布式预编码,不共享信道信息。本文中研究的预编码方案主要集中在基于有限信道信息反馈的方案,进一步减少基站与移动终端之间的通信量,降低移动终端的复杂度,能适应新一代移动通信网络发展对移动终端便捷性的要求。本文首先介绍了多小区系统的基本结构,小区间干扰的影响,以及目前小区间干扰抑制技术的研究现状。本文对几种常见的干扰抑制方案进行了分析对比,并介绍了各自的优缺点；接下来分析了SINR和VSINR的区别和联系,论述了文中所提方案以VSINR为基础的科学性和必要性；然后详细描述了本文对两种预编码方案的改进和完善,并给出了相应的仿真结果。通过对仿真结果的分析,本文证实了所提方案的优势和发展潜力。