认知无线电作为一种有效提高系统频谱利用率的技术受到了广泛的关注,但是如何管理主次用户共信道传输所导致的严重干扰成为亟待解决的问题。由于干扰对齐技术能够分离干扰子空间和期望空间,在抑制干扰的同时能够为系统带来更多的复用增益,从而提升系统的信道容量,因此被认为是认知无线电网络中干扰管理的有效办法。本论文针对多用户认知MIMO系统下的干扰对齐技术展开研究。首先研究单主用户多次用户认知MIMO网络中的干扰对齐技术。针对由于次用户对主用户无干扰的要求而引起的次级网络自由度降低,进而导致高信噪比阶段性能较低的问题,提出一种基于主用户自由度二分的和速率最大化的IA算法,该算法依据授权用户业务模式所规定的门限速率要求,通过自适应地改变授权用户的发送自由度为次级网络提供了更多的可用自由度。对于次级网络,算法以最大化和速率为目标进行设计。考虑到直接优化和速率会导致较高的计算复杂度,因此论文首先根据Minkowski不等式的推广将和速率的计算公式变为不含求逆运算的两部分,然后选择简化后的和速率公式作为目标函数进行求解。所提算法能在满足主用户最低速率要求的情况下获得更高的网络总速率。其次,基于多主用户多次用户的认知MIMO网络,分别针对信道具有互易性以及不具有互易性两种情况,研究了相应的干扰对齐算法。首先,针对信道具有互易性的情况,研究了一种基于干扰子空间对齐的最小化干扰泄漏功率的IA算法。针对该算法在设计时没有考虑期望信号的传输,进而不能保障期望信号质量的问题,提出一种干扰空间维度和泄漏功率联合最小化的干扰对齐算法,该算法在期望信号矩阵平方根的迹约束下,通过联合优化干扰子空间维度和干扰泄漏功率,将干扰信号限制在低维度空间的同时,降低了泄漏的干扰功率,提升了网络总速率。最后,针对信道不具有互易性的情况,考虑到收发机联合设计的迭代机制会给系统带来大量的冗余负担,提出一种仅在发送端设计的改进的干扰子空间距离最小化的干扰对齐算法。不同于直接最小化干扰子空间距离的方法,算法引入对齐子空间的概念,通过将所有干扰子空间对齐在对齐子空间的方法实现压缩干扰信号维度的目的,大大降低了每个接收端需要优化的空间距离数目。针对该算法通过分配额外天线以消除对主网络干扰,进而导致次级网络可用空间维度降低,不适用于次级系统天线数量受限场景等问题,进一步提出了基于跨层干扰矩阵秩约束和用户速率最大化的单边IA算法。该算法考虑了期望信号子空间与对齐子空间的距离,并在满足干扰子空间距离最小的预编码矩阵集合中找到使系统和速率最大的预编码矩阵。对于跨层干扰,算法通过约束跨层干扰矩阵秩为零的方式进行消除。所提出的两种算法不仅具有发射机单边优化的优势,在系统和速率指标上有明显的提升。