无线通信从以前单一的语音通信演变为现在的数据、图像、视频等各种通信方式,导致人们对带宽的需求日益增强。射频(Radio Frequency,RF)频谱资源稀缺且传输信道本身所具有的广播特性,使得增加RF链路时容易产生干扰及安全问题,这些都可能使系统性能严重下降。自由空间光通信(Free Space Optical,FSO)以激光为传输媒介,具有很高的安全系数和方向性,能量集中,不受频率和相邻频段带来的干扰,但是受环境因素影响显著,且不适合长远距离通信。为互补两种通信,混合RF-FSO系统被提出。它不仅可以节约资源,避免不必要的设备移动,而且也可以利用FSO通信的优越性能,提高宽带利用率。本文基于物理层安全对上行混合RF-FSO系统和基于能量采集的下行混合FSO-RF系统进行进行数学建模和理论分析,为后续相关研究做铺垫。主要研究内容如下:1.对上行混合RF-FSO系统的物理层安全性能进行数学建模和理论分析。分别推导了中继节点R在放大转发(Amplify-and-Forward,AF)策略和译码转发(Decode-and-Forward,DF)策略下,系统安全中断概率和平均安全容量的准确和渐近闭式解析表达式,并通过蒙特卡洛仿真验证了理论分析的正确性。结果表明,AF策略下的系统性能明显优于DF策略;通过改变系统参数,在调制解调方式一定情况下,弱湍流下的系统性能优于强湍流;同时,与强度调制/直接检测(Intensity Modulation/Direct Detection,IM/DD)技术相比,外差检测(Heterodyne Detection,HD)技术更优。2.针对基于能量采集的下行混合FSO-RF系统的物理层安全性能进行数学建模和理论分析。其中,用户节点和窃听节点都配备多天线并且均能进行能量采集。相比于第一个研究内容的混合RF-FSO系统,第二个研究内容将主信道和窃听信道建模为不独立同分布信道,系统模型更具实用性。中继节点R在DF策略下,运用概率论知识,分别推导了安全中断概率准确和渐近的闭式解析表达式,并通过蒙特卡洛仿真验证了理论推导的正确性。结果表明,通过改变系统参数,在某一参数一定的情况下,弱湍流下的系统性能优于强湍流。同时,与IM/DD技术相比,HD技术更优。