无线传输媒介由于其本身的开放性和广播性,从信源到目的接收者的安全通信一直以来都是一个重要的挑战。利用无线信道的随机性而非密码学的加密技术,在物理层中可以实现安全传输。这相比于传统的安全加密认证技术具有很大的优势。因此,物理层的安全传输技术已经引起了学术界的广泛关注。有关物理层安全传输的研究,大多数都是基于窃听信道的研究即在系统模型中存在额外的窃听者威胁着系统的安全性。但是在实际中,存在系统中的某个节点作为潜在窃听者的情况。近期的研究中,人们开始关注无线传输网络中含有不可信节点的信道模型并讨论其安全性。本文也是基于这类的系统模型来展开的研究工作。首先,研究了两用户的MIMO高斯干扰信道模型,认为两对用户之间是不可信的,传输的信息需要对彼此保密。我们推导了当每个节点配置的天线数为任意数时,系统的安全自由度的准确值。并分别给出了上界和对应可达方案的证明。另外,单天线或者对称多天线的情况作为该系统模型的一种特殊情况,结合之前的结论从而验证了安全自由度的准确性。其次,已知协作通信可以增强覆盖以及提升系统性能,但通常作为协作者的中继也存在是不可信节点的情况。因此,本文中考虑了不可信中继的信道模型并结合认知网络,研究了不可信认知中继网络的安全性,结合目的节点协作干扰技术,给出了系统最优的功率分配方案。最后,考虑了在不可信认知中继网络中存在多个中继的系统模型。在信号传输的过程中同时选择两个中继,利用中继之间的互相干扰作为协作干扰确保信息的安全性。文中给出了两种中继选择的方案,并推导出了相应的安全中断概率的表达式。然后,通过仿真分析了系统的安全性能。