随着人们对高速通信需求不断扩大,移动通信网络发展迅速。传统移动通信系统往往采用频分双工(Frequency Division Duplex,FDD)或者时分双工(Time Division Duplex,TDD)这两种半双工(HalfDuplex,HD)方式进行传输以避免自身信号干扰。相对于半双工传输方式,全双工通过有效抑制同一系统上发射端和接收端之间的自干扰,实现了真正的同时同频传输,提升近乎一倍的频谱利用率。因此,研究全双工技术与其他关键通信技术相结合后的系统性能十分重要。本文分别研究全双工中继系统下的信道估计问题、全双工系统中的物理层安全问题和全双工ad hoc网络性能问题。论文第二章研究全双工中继系统中的信道估计问题。在本文研究的全双工多输入多输出(Multiple-InputMultiple-Output,MIMO)中继系统中,源节点和中继节点均工作在全双工模式中。中继节点在接收源节点信号的同时转发信号至目的节点。此时,源节点通过监听中继节点的转发信息估计其预编码设计所需信道状态信息(Channel State Information,CSI)。论文首先提出一种无需中继节点反馈的信道估计算法。基于该算法,论文推导出估计量的偏差和Cramer-Rao下界(Cramer-Rao Lower Bound,CRLB)以检验算法性能。其次,针对该算法中中继节点天线数量限制的缺点,论文提出了一种改进型信道估计算法。最后,通过数值仿真结果和理论结果的对比,我们验证了两种算法的有效性和实用性。论文第三章研究全双工系统物理层安全中的密钥生成问题。在该系统中,合法用户往往采用循环器或者分离式天线降低自干扰影响。因此,他们之间的前向和反向信道并不完美互易。针对该情景下的密钥生成问题,论文提出了两种针对非对称信道的密钥生成算法。一种是基于训练序列的密钥生成算法,另一种则是基于特征值的密钥生成算法。在基于训练序列的密钥生成算法中,两合法用户通过估计相同的复合信道并量化生成安全密钥。然而采用公共训练序列估计信道信息可能造成安全信息泄露。因此,基于特征值的密钥生成算法利用信道特征值特性,在无需公共训练序列的情况下生成安全密钥,有效减少了附近合作窃听者所能破解的安全信息。通过仿真验证,相对于其他算法,所提两种算法在相同情况下均拥有更低的误密钥率(Key Error Ratio,KER)。论文第四章研究全双工ad hoc网络性能问题。不同于传统半双工节点,全双工无线设备可在同一频段同时交互信息。尽管,全双工传输模式可以提高频谱利用率,但是无法避免的同频干扰(Co-Channel Interference,CCI)也使得全双工ad hoc网络性能分析非常复杂。基于随机几何理论,本文研究了全双工ad hoc网络中传输容量问题。为了推导该网络下的传输容量,论文首先推导出接收信干噪比的概率密度函数。由于同时考虑同频干扰、自干扰和信道噪声等因素,推导出的概率密度函数更加贴近实际情况。其次,论文给出传输容量的上界和下界。该上下界算法复杂度较原函数复杂度大大降低。然后,通过研究物理链路模型和协议链路模型中的发送包成功译码率,论文给出了最大化传输容量的最优传输策略,并在随后与半双工ad hoc网络比较中给出相应性能分析。最后,通过理论分析和数值仿真验证,采用最优传输策略,无论是使用物理链路模型还是协议链路模型,全双工ad hoc网络性能始终优于半双工ad hoc网络。