随着信息化时代的到来，人们对多媒体宽带业务的需求日益增长，而目前拥塞的微波频已难以适应这一变化，开发毫米波频段是未来无线通信向更大容量和更高速率发展的必然方向。将毫米波和光纤传输技术相结合的毫米波RoF(radio-over-fiber)技术具有带宽宽、容量大、成本低和适合组成微微蜂窝网(pico-cell)等特点，正越来越受关注，成为下一代无线通信的候选方案之一。毫米波信号在中心站(CS)产生然后通过光纤传送到多个分布的基站(BS)，复杂的信号处理和设备都集中在中心站，而基站被尽量简化以节约成本。本文着重研究毫米波的光学产生方法，并以此为基础开发其他相关重要技术以构建切实可行的60GHz毫米波RoF双向传输系统。 首先介绍如何用光学方法产生毫米波信号，深入分析了光学倍频法，指出其难以达到最佳设置的问题，并提出两种更为高效稳定的毫米波光学产生方法，使系统设置更方便，去掉了光滤波器，也使系统更为精简。同时实现了从中心站到基站的下行链路的信息传输，得到已调制了基带信息的毫米波信号。接着，在两种改进的毫米波产生方法基础上，研究了如何将高效的光QPSK调制方法应用到毫米波RoF系统中，通过合理的扫频方式和系统结构得到含有两相互正交载波的高次谐波，从而获得含I、Q两路信息的QPSK毫米波信号。 在上行链路传输中，基站从无线终端(WT)接收到的60GHz毫米波信号需下变频到2GHz，再调制到光载波传回中心站，本文充分利用了已有的下行链路系统为下变频提供58GHz的远程参考本振。先介绍了线性叠加导频插入法提供远程本振的方法，对驱动信号幅度进行了优化设计，并指出该方法产生的本振信号不纯，且60GHz信号的调制方式为AM调制。同时提出子载波调制法提供远程本振，用PSK信号驱动光强度调制器，在基站产生60GHz参考本振和58GHz PSK信号，从而实现真正的数字调制和纯净的参考本振提供。 另外，本文还研究了光纤链路的色散对毫米波幅度造成的衰落现象，采用统一的数学模型推导出毫米波幅度随光纤传输距离的变化关系的精确解析式，比较了双边带光强度调制法、光学倍频法和两种改进的的毫米波产生方法的抗色散性能，证明光学倍频法和两种改进的毫米波产生方法对光纤色散有很高的容忍度。最后用实际硬件构建了一个1550nm 40GHz/100Mbps光纤传输系统实验平台，对光学倍频法和改进的毫米波产生方法进行了实验验证，用线性叠加导频插入法和子载波调制法实现了远程参考本振的提供，成功实现了上下行链路的数据传输，实验结果和理论分析得到了很好的吻合，为毫米波RoF系统的实用化提供了参考依据。