干扰对齐（Interference alignment, IA）是一种有效的干扰控制机制，能够通过发送端预编码使多个发送用户的干扰在接收端重叠在一起，可以实现干扰系统最大自由度（Degree of Freedom, DoF）并显著提高系统容量，近年来受到学术界的广泛关注。多输入多输出(MIMO)技术是提高频谱效率的关键技术，MIMO技术能够提供大量的空间自由度，适合于应用到干扰对齐系统之中。将MIMO技术与干扰对齐相结合能够大幅度提高多用户干扰系统的通信速率，是当前无线通信领域的一个重要研究方向。干扰对齐技术的研究还处于起步阶段，还有许多的问题没有解决。例如，干扰对齐的预编码在大多数情况下难以获得显式解，只能获得数值解，并且只能得到次优解。干扰对齐需要发送端具有全局信道状态信息（CSI）。一方面获取发送端全局信道状态信息会带来大量的开销，另一方面信道状态信息误差导致预编码产生误差，使系统性能下降。此外，干扰对齐最初是在对称干扰网络的背景下被提出的，将干扰对齐应用到现有网络，例如蜂窝网中，需要根据现有系统的特点对传统干扰对齐算法进行改进。本文针对MIMO干扰对齐系统中的预编码算法、信道状态信息反馈以及蜂窝网中的预编码算法进行如下的研究工作：首先，本文对干扰对齐的自由度和预编码算法进行了分析和研究。在进行MIMO干扰对齐预编码设计之前需要确定预编码的自由度，并且这一自由度不能大于系统能够实现的最大自由度。本文对几种主要MIMO干扰信道下的自由度进行了分析，研究了自由度的实现方法，并对干扰对齐预编码的解析算法和数值算法进行了分析。在此基础上，本文提出了一种基于二次规划的干扰对齐预编码算法，该算法以系统容量为优化目标，联合设计预编码矩阵和接收解码矩阵，在每次迭代中都同时更新预编码矩阵和接收解码矩阵。仿真表明该算法能够实现较高的系统速率。这些分析和研究为本文后续研究工作的展开进行了铺垫。其次，研究了非理想信道状态信息下基于最小均方误差（MMSE）的干扰对齐预编码算法。干扰对齐需要发送端具有全局信道状态信息，由于实际系统中能够获得的信道状态信息与真实信道状态信息会存在一定的误差，本文对高斯信道误差模型和范数有界信道误差模型进行了分析，然后在高斯信道误差模型下，提出一种每用户功率受限的MMSE干扰对齐算法。仿真表明该算法与传统MMSE算法相比，在信道状态信息存在高斯误差时能够获得更好的性能。在范数有界信道误差模型下提出了用户功率受限时的极小极大总MSE和极小极大用户MSE两种干扰对齐算法。两种算法都是以信道误差范数有界时，最差信道下的性能为优化目标，是鲁棒的预编码算法。极小极大总MSE算法从系统总体性能考虑，能够实现更好的总体MSE性能，而极小极大用户MSE算法能够实现更好的用户MSE性能，是一种实现用户间公平的预编码算法。再次，研究了干扰对齐信道状态信息反馈过程中的比特分配算法。由于干扰信道各链路增益不同，在各链路之间平均分配反馈比特数是一种次优算法。针对这一问题，本文分析了随机向量量化下的量化失真与量化比特数的关系，给出了有限反馈下干扰对齐的平均速率下限。根据平均速率下限与量化比特数和信道增益的关系，提出了干扰对齐系统中的分布式反馈比特分配算法和集中式反馈比特分配算法。分布式反馈比特分配算法以最大化每个用户的平均速率下限为目标，以每个用户的反馈比特数为约束，集中式反馈比特分配算法以最大化总平均速率下限为优化目标，总反馈比特数为约束。仿真表明，提出的两种反馈比特分配算法与等比特分配算法相比能够在相同的总反馈比特数下实现更高的总速率。集中式算法比分布式算法性能稍好，但是需要在中心处理单元进行，需要占用更多的控制链路资源，并且算法复杂度也高于分布式算法。最后，研究了蜂窝网中基于级联预编码的干扰对齐算法。针对传统级联预编码算法在多小区边缘速率下降的问题，提出了基于干扰空间扩展的级联预编码算法和基于干扰最小化的级联预编码算法。改进算法能够在多小区边缘实现更好的性能。针对干扰对齐不能对期望信号的功率进行控制，有可能导致期望信号功率损失较大，进而造成速率下降的问题，结合级联预编码算法的特点，提出了基于等效信道矩阵范数的多用户选择算法，从而利用多用户增益来提高系统性能。仿真表明提出的多用户选择算法能够实现系统性能的大幅度提升。