随着通信技术的飞速发展,第四代移动通信系统必将是通信产业发展的一个里程碑,它能够提供高质量、大带宽、无处不在的实时多媒体业务。光纤无线通信(ROF)技术可以将无线接入的灵活性与光纤提供的大容量与低成本优势有机结合在一起,被认为是4G网络的组网技术之一。同时正交频分复用(OFDM)技术以其抗干扰能力强、频谱效率高、传输容量大等特点被认为是4G的核心技术。因此,OFDM和ROF技术都成为4G研究的热点问题。本论文首先对ROF系统中单边带调制产生光载毫米波方法作了深入研究。提出一种新型的单边带调制方式,在中心站通过合理设置单臂强度调制器的偏置电压,使调制器产生的奇数边带被抑制,采用滤波器滤除其中的一个二阶边带,产生单边带信号。这种新型的单边带调制方式可以产生两倍于本地振荡频率的毫米波,同时降低对中心站光器件带宽的要求,降低系统成本。本文还分析了不同载波边带比对传输性能的影响,发现载波边带比为0dB时,传输性能最佳。其次本文还研究了一种单边带调制的OFDM-ROF系统。在ROF系统中用单边带调制产生光载波毫米波并携带OFDM信号可以抵抗光纤中的色散,实验结果表明,在此系统中2Gb/s的基带OFDM信号在10GHz-ROF系统中产生的光载毫米波信号通过光纤传输200km后不经无线传输,其功率代价仅为1dB。不经过光纤仅经过8m无线传输后功率代价大约只有0.3 dB。光载OFDM信号既经过200km光纤传输又经过8m无线传输后接收星座图也很好。