随着无线通信技术的发展,无线用户的数量急剧增加,通信系统对无线频谱资源的需求也相应增长,从而导致适用于无线通信的频谱资源变得日益紧张,这样也就使无线频谱资源显得非常珍贵。因此,在不增加带宽的情况下提高通信系统的容量和频谱利用率,一直以来就是无线通信领域研究的主要任务。由于频谱资源有限,无线通信的主要制约在于所有信号都是通过同一个空间传播,相互之间必然有干扰。如何在多个相互影响制约的信源信宿对共存的网络中,使每个信源信宿对各自实现最大信息传送速度,也是无线通信中所要面对的问题。协同通信技术作为一种虚拟的MIMO技术,通过虚拟天线阵列使得用户能够获协同分集增益。协同通信技术融合了分集技术和中继传输技术的优势,可以在传统通信网络中实现性能增益。认知无线电技术通过从时间和空间上充分利用那些空闲的频谱资源,从而有效提高了频谱利用率。认知无线电具有感知周围环境的能力,它可以持续检测已授权的频谱资源。并在保证频谱授权用户优先使用,且在频谱授权用户的传输性能不变的情况下,认知无线电系统可以自适应地调整收发设备到当前检测到的空闲频谱上进行通信。因此,本文从如何提高无线通信中的系统性能和频谱利用率的问题出发,对中继共享的高斯干扰信道的可达和速率、如何提高认知无线通信系统中感知用户的吞吐量、如何合理分配感知用户和感知中继的功率等方面的问题进行了研究。具体为：1、在两组用户共存的高斯干扰信道中引入协同通信的思想来提高系统性能。两组用户共存的干扰信道问题一直是个开放的问题。本文提出了两种中继共享的高斯干扰信道系统模型,使两组并行的通信用户共享一个中继。中继以时分双工的方式工作,并且采用放大转发的协作方式。基于所提出的系统模型,本文分别给出了两种中继共享的高斯干扰信道系统模型的数学表达式。分别推导出了中继共享的高斯干扰信道系统模型的可达和速率的上界和下界。与无中继协助的情况进行比较,在共享中继的帮助下,本文所提出的系统模型的系统性能有很大提高。2、利用协同通信技术提高认知无线通信系统中的感知用户的吞吐量。为了解决频谱资源紧张的问题,论文结合协同通信技术,对所提出的中继共享的高斯干扰信道模型加以扩展,假设所提出的模型中一组用户是频谱授权用户,而另外一组用户是感知用户。一个共享中继同时协助频谱授权用户和感知用户进行通信。在不影响频谱授权用户的系统性能的情况下,提出了两种通信方式,即中继协助机会通信方式和中继协助同时通信方式来提高感知用户的吞吐量。本文分别推导了在中继协助机会通信方式和中继协助同时通信方式下的感知用户的吞吐量表达式。中继协助机会通信和中继协助同时通信两种通信方式下的感知用户的吞吐量均优于无中继协助通信方式。中继协助机会通信方式存在时间损耗,在不同的时间损耗的条件下,中继协助机会通信方式的吞吐量会有变化,可以根据实际的通信情况,感知用户可以选择用中继协助机会通信方式进行通信还是用中继协助同时通信方式进行通信。3、在不对频谱授权用户造成干扰的条件下,合理的功率分配方案可以优化感知用户的性能。通过干扰温度的概念,利用频谱授权用户信噪比的余量,使感知用户和频谱授权用户同时使用同一频段进行工作,实现多用户的频谱资源共享,最大限度地提高频谱利用率。本文对所提出的中继共享的高斯干扰信道模型加以扩展,假设所提出的模型中一组用户是频谱授权用户,而另外一组用户是感知用户。中继端也具有感知功能。感知用户和感知中继相互协作,在不对频谱授权用户的传输速率造成影响的情况下,即在频谱授权用户传输速率不低于可以接受的最低的传输速率的限制条件下,合理分配感知用户和感知中继的传输功率,从而提高感知用户的传输速率。