通信网络分为核心网和接入网两部分,核心网起到交换和传输的作用,接入网则与用户直接相连,为用户提供多业务的接入。与核心网的高速发展相比,接入网的发展比较缓慢,不能满足人们对接入网高速率多业务的需求。光接入网由于使用光纤作为传输媒质,利用了光纤传输的众多优良特性,成为最有前途的接入网形式。将光接入网中的无源光网络(Passive Optical Network, PON)和光载无线通信技术(Radio-over-Fiber, RoF)相结合的RoF-PON系统因为结合了两者的优良特性而成为新的接入网形式与研究热点。RoF-PON系统主要由中心站、基站和用户端设备组成。中心站进行数据的交换处理等过程,设备比较复杂,被多个基站共享。基站进行数据的上下行接收：将接收自中心站的激光转换为射频信号发送至用户端,同时将用户端上行发送的上行数据,用光纤传输至中心站。基站设备简单,数目多。RoF-PON系统利用了光纤低损耗、大容量等优势的同时,也会受光纤的色散等不利因素的影响。为了克服光纤色散特性,人们将正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)技术应用到RoF-PON系统中。OFDM的引入可以利用数字信号处理的方法来解决模拟域的色散问题。另外由于OFDM中采用了正交幅度调制(Quadrature Amplitude Modulation, QAM),可以减小信号的传输带宽。为了提高传输效率,RoF-PON系统一般与波分复用波分复用(Wavelength Division Multiplexing, WDM)技术相结合,传统的激光阵列光源已满足不了其要求。RoF-PON系统主要采用强度调制方式产生射频信号,不同频率成分的光信号会产生不同的相移,从而引起非线性串扰,为了降低非线性失真,有必要设计新型的调制方式。本论文将OFDM技术引入到RoF-PON系统,设计了多波长光源、宽带波分解复用器和光耦合单边带调制等RoF-PON核心技术。本论文的研究内容和成果主要有：(1)探究了OFDM技术的原理和相应的信号处理过程,及其在光通信中的应用和结构形式。通过仿真验证了导频、循环前缀和窗口同步技术对OFDM信号传输的影响,为OFDM技术在RoF-PON系统中的应用打下了基础。(2)探究了马赫增德尔调制器(Mach-Zehnder Modulator, MZM)调制产生各阶光波边带的原理,以此为理论基础设计了应用在RoF-PON系统中的多波长光源,仿真结果表明其具有输出功率高、平坦度好、串扰少的特点。分析了阵列波导光栅(Arrayed Waveguide Grating, AWG)的特性,以此为基础设计了解复用多波长光源的宽带平坦波分解复用器。(3)为了降低RoF-PON系统传输过程中的谐波失真和互调失真,本论文设计了新型的光耦合单边带调制方式,通过理论分析和仿真验证了其可行性,并进行了相关实验,通过信噪比、误差矢量幅度、星座图、眼图和误码率等参数验证了光耦合单边带调制可以有效的降低RoF-PON系统的非线形失真,并且将RoF-PON系统的传输效率提高了一倍。