在“移动通信宽带化”和“宽带接入移动化”的趋势下,以LTE和LTE-Advanced为代表的新一代无线通信技术使得系统接入速率相比3G技术产生了质的飞跃,而预编码正是LTE/LTE-Advanced中的核心技术之一。为了有效简化系统接收机的设计和明显改善系统的误码率性能,通过对发射信号预先进行某种预处理来对抗无线通信环境下的各种不良影响的技术被称为预编码。随着LTE/LTE-Advanced的不断发展,预编码技术在不同的应用场景下呈现出不同的作用形态。本论文正是围绕着预编码技术领域中的核心问题,从LTE/LTE-Advanced涉及到的主要场景出发,对其中的单天线预编码技术、单用户MIMO系统中有限反馈预编码反馈压缩策略、多用户MIMO优化的预编码设计和基于预编码的双向中继系统中的信道估计等问题进行了创新性研究。这些研究力求在平衡系统性能和计算复杂度的同时,能够积极探索和发掘系统性能潜力,最大程度降低无线信道传播带来的衰减。全文主要研究内容归纳如下首先,本文讨论了单天线传输下的预编码技术。从预编码的观点出发,分析了LTE/LTE-Advanced下行OFDM传输技术对抗频率选择性衰落的能力,分析了LTE/LTE-Advanced上行DFT-SOFDM传输技术低峰值平均功率比的特性。矢量OFDM作为单载波和多载波OFDM传输的桥梁,在系统设计上具有很大的灵活性。但是,目前对于矢量OFDM在频率选择性衰落信道下完整的性能刻画尚属空白。本文正是从这一问题出发,详细分析了矢量OFDM在频率选择性衰落信道下的性能,研究了矢量OFDM中预编码技术所带来的信号空间分集增益,并对矢量OFDM中每个矢量块均进行了细致的研究。这些研究成果对实际系统应用矢量OFDM时提供了重要的理论依据,这也是本文第一个主要的创新点。然后,本文讨论了单用户MIMO下的预编码技术。尽管完美信道对于发射端设计预编码矩阵至关重要,但是接收机对于信道信息的直接量化反馈却给系统性能带来了明显的制约。本文正是在这一背景下,对更加有效的基于码本(codebook)的有限反馈技术进行了深入研究。由于实际系统下OFDM的引入使得预编码的反馈数据量随着载波或子带(subband)数目线性增加,所以本文提出了一种有限反馈量压缩技术。该技术能够使得系统在反馈开销和吞吐率性能上取得一个较好的折中。以上内容是本文第二个主要的创新点。随着系统对总吞吐量和小区用户密度的要求不断提高,从点对点的单用户模型向点对多点的多用户模型进行过渡成为了主要的研究方向。相比单用户MIMO,多用户MIMO预编码需要在解决用户内的数据流串扰同时,还需解决用户间的数据流串扰问题。本文以此为背景讨论了多用户MIMO下的线性预编码技术,具体介绍了块对角化(BD)预编码和最大信漏噪比(SLNR)预编码技术的基本原理。本文在原始SLNR技术上进一步发掘潜力,通过理论推导两个矩阵同时对角化的一种特殊形式,提出一种SLNR最大化松弛预编码方案。在多数据流传输情况下,提出的新预编码方案相对原始SLNR方案能够有效平衡多数据流间的信道增益,从而具有更好的系统误码性能。此外,提出的方法能保持几乎相同的系统归一化和速率。这部分内容是本文第三个主要的创新点。最后,本文关注了协同通信中的预编码技术,总结了多小区预编码设计上的主要思路。本文针对双向中继系统提出了一种基于压缩感知理论信道估计的方法。由于在双向中继系统中,等效信道并不稀疏,这会直接限制压缩感知理论的应用。本文从这一问题着手,利用预编码技术并结合双向中继特殊的结构解决了这一难题,使得系统能效得到显著优化,这也是预编码技术一种新的作用。以上内容是本文第四个主要的创新点。本文对于新一代无线通信系统中的预编码技术的总结、研究和创新丰富了预编码技术的理论研究成果,对实际系统中的预编码技术的应用也具有重要的指导意义。