作为无线通信领域的新技术之一,协作中继技术利用多个单天线终端的分布式信号发送和处理,构造“虚拟多天线阵列”,从而获取新型的空间分集增益,即协作分集。该技术可有效地提高无线传输的吞吐量、可靠性、覆盖范围等多项关键性能指标,自提出伊始便受到了广泛关注和研究。关于协作中继技术的现有研究工作可分为无线传输可靠性和无线传输安全性两方面。关于可靠性方面,现有的研究成果主要集中于多中继系统的单播业务机会中继协作策略设计,通过中继选择获取满分集增益,提高无线传输的可靠性。一方面,现有的机会中继策略仅从多个中继中选择一个中继协作传输,不能最大限度地提高无线传输的端到端性能。因此,需要设计新的中继协作策略,通过合适地选择多个中继协作传输,进一步提升无线传输的端到端性能。另一方面,作为新兴的无线业务之一,多播传输需要将数据同时送达多个用户,其传输可靠性相比于单播传输更难保障。所以,如何根据无线多播业务的特点,设计新的协作传输策略,是另一亟待解决的问题。关于安全性方面,现有的研究成果主要集中于通过中继协作对抗被动窃听攻击,提高合法系统的保密容量,改善无线传输的物理层安全性能。然而,在实际网络攻击类型中,还存在攻击者的恶意干扰行为。因此,如何通过中继协作提高无线传输在被动窃听和主动干扰两种攻击类型下的安全性,将是协作中继在物理层安全方面的重要研究课题。针对上述问题,本论文通过研究协作中继技术,改善了无线传输的可靠性和安全性,取得了如下主要成果:一、基于中继协作的单播传输研究根据多中继协作时端到端信噪比的一阶导数特征,定义了中继协作效率因子,设计了基于该因子的迭代多中继选择方案。此外,利用协作效率因子计算仅需中继本地信息的特点,提出了该方案的分布式实现算法,通过各中继基于自身协作效率因子的本地计时及节点间信令交互,实现了分布式地多中继选择。理论和仿真结果表明,该多中继协作方案取得了接近最优解的性能,但复杂度仅为O(K2),远远低于最优多中继选择的复杂度O(2K),其中K为中继数目。二、基于中继协作的多播传输研究研究了频谱共享场景下的中继协作的多播传输,提出了一种基于最佳中继选择的协作多播传输方案,通过中继选择最大化多播传输的端到端信噪比。在独立非同分布的瑞利衰落信道下分析了该方案的中断性能,得出其精确解析表达式和高信噪比渐进表达式。理论分析结果表明:1.基于最佳中继协作的多播传输可取得满分集增益,且分集阶数由中继数目决定;2.多播用户数目、主用户数目和主用户干扰门限只会影响该方案的编码增益;3.中继数目除了决定分集增益外,还会影响该方案的编码增益。复杂度分析表明,该方案的复杂度仅为O(K+N),其中K和N分别表示中继数目和用户数目。因此,该协作多播方案是一种低复杂度的满分集多播方案。三、基于用户协作的多播传输研究研究了用户协作的多播传输,提出了一种基于最佳用户选择的协作多播传输方案,从成功解码源节点信息的用户中选择一个用户转发消息。与中继协作多播传输相比,该方案不需要部署专门的中继,节省了基础设施开销。中断分析表明,该方案可取得阶数与用户数目相同的分集增益,其中断概率随用户数增加而指数性降低,有效地克服了多播传输可靠性随用户数增大而恶化的缺点。为进一步降低中断概率,还研究了该方案的时间分配,提出了一种近似最优的时间分配策略。该时间分配策略可通过简单的求根算法实现,例如二分搜索。四、基于中继协作的无线网络物理层安全研究考虑窃听者采用自适应窃听/干扰攻击,提出了BRS-F-ECSI、BRS-P-ECSI和BRS-S-ECSI三种最佳中继选择准则,可分别在合法系统已知F-ECSI、P-ECSI和S-ECSI的前提下,通过中继选择最小化保密中断概率。在瑞利衰落场景下分析了这三种准则的保密中断性能,得出了BRS-F-ECSI和BRS-S-ECSI的精确保密中断概率和BRS-P-ECSI的近似保密中断概率。此外,还得出了三种准则保密中断概率下界的高主窃比渐进表达式,并基于此分析了三种准则的保密分集增益。理论结果表明,这三种中继选择策略均可取得满保密分集增益,即保密分集增益阶数等于中继数目。