近年来,研究发现高性能的非正则复信号能够显著提高通信系统的性能。因此,对干扰信道中非正则信号特性的分析处理引起越来越多的关注。与传统正则信号不同,处理非正则信号时需要考虑信号实部与虚部之间的相关性,这一统计特性由伪协方差来表征,正因为伪协方差这一新的统计信息的引入,采用非正则信号将为通信系统设计提供新的设计自由度。传统的基于线性模型的信号处理方法是基于信号具有正则特性的假设展开的,并不能充分利用信号的非正则特性,或者改变信号的伪相关特性。与线性模型相比,宽线性模型由于引入信号的共轭项,能够充分利用复信号的非正则特性。因此,本课题考虑在多用户系统中,通过宽线性模型合理优化设计预编码矩阵,使发送信号具有恰当的非正则特性,从而最大化系统容量。重点针对Z干扰信道与X干扰信道两种基本的多用户单入单出干扰信道模型,考虑基于宽线性模型,以提高系统的传输容量为目标,对信号非正则特性进行设计优化的方法展开研究。主要工作和意义包括:针对Z干扰信道信道模型,本文提出一种最大化信道容量的最优信号设计策略,在干扰被视为加性高斯噪声的假设下,给出了在Z干扰信道上实现帕累托边界(可实现速率区域的边界)的非正则信号的统计参数。本文证明了帕累托边界可由某个用户传输速率的两个区域表征,这两个区域由传输信号的方差与伪协方差决定的两个变化路径决定。在每个方案中,推导出了每个用户发送的非正则信号最优协方差和伪协方差简明的闭合表达式。在此基础上,通过仿真实验有力地验证了所提出的最优信号设计策略的有效性,同时也直观地展现出IGS较正则高斯信号的优越性。此外,基于本文提出的最优信号设计策略还进一步获得了实际网络场景中实现所需速率区域的简单方法。利用这种方法,得到了一个闭合形式的解决方案,用于快速找到获得最大和速率的信号设计方案。最后,深入讨论了帕累托边界的特征,定性分析了信道系数以及两个用户发送的信号的协方差和伪协方差与最大化信道容量的关系。针对X干扰信道模型,本文探索了其采用非正则信号的情况下可获得的传输容量。正则信号的信道容量仅取决于发送信号的功率,而非正则信号不同于正则信号,由香农定理可知,它的信道容量是关于发送信号功率及其伪协方差的函数。注意到则信号的伪协方差为零,因此,伪协方差给非正则信号带来额外的设计自由度,从而能够提升传输容量。通过将其他用户的干扰视为高斯白噪声,分析了信道容量的数学表达式。对于两用户X干扰信道,本文针对采用正则信号与非正则信号的两种情形,分别提出了两种最佳的信号设计策略以获得两用户传输容量的帕累托边界,设计参数主要为发送信号的发送功率与伪协方差。仿真结果表明,提出的信号设计策略总是可以获得更高的传输容量。此外,推导出了获得最佳参数设计的闭合表达形式,大大缩减了复杂度与运算量。最后,分析了两用户信道容量帕累托界关于信号设计参数的变化特性,以及在不同信噪比机制下不同信号设计机制可达最大和速率的对比。