外差检测是一种很有潜力的无线通信技术，但在实际应用中，激光通信受到大气信道湍流、传输光束的偏振态以及波前曲率匹配等制约因素。本文研究了一种非光域的外差检测方案，简单并且切实可行。　　本研究主要内容包括：⑴对光学外差检测系统中光纤的传输特性作了相关的分析研究，并对光纤传输特性中的光纤无线通信技术和光纤中的混频效应理论作了分析。⑵研究了一种新型的非光域外差检测方法，即在无线激光通信系统的发送端采用强度调制，在接收端的本振光信号同时也进行强度调制。这样两路光信号在光纤中完成合路后经光电探测器检测，检测出的中频信号进行解调，最后恢复出发送端原来的基带信号。⑶利用OptiSystem和ZEMAX两款光学仿真软件，对非光域的外差检测系统各个模块进行了建模和仿真研究；结合仿真选出适合外差系统的各模块模型，并对信号光束与光纤的传输特性做了相关研究。⑷分析了本振光对激光外差探测信噪比的影响，在微弱信号光情况下，增大本振光功率可以有效的提高外差系统的信噪比，完成对微弱光信号的提取。⑸结果表明：非光域的外差检测无需本振光和信号光的偏振态不必苛求一致，最后经过仿真验证，系统的外差检测增益可以达到17.82dB，从而有效的能提高系统灵敏度。