光学调制器是光通信系统中的关键器件。在Radio-over-Fiber(ROF)系统中,传统的调制方案是双边带调制,由于光纤的色散效应,调制光的两个边带分别与中心载波拍频而产生的两个拍频项的相位不同,干涉相消,导致射频功率代价。为了解决这个问题,很多单边带调制的方案被提出,但是均存在一定的缺陷。本文针对上述问题,提出了实现单边带调制的铌酸锂行波电极结构的调制器方案。周期反相电极能够实现行波电极的速度匹配,在此基础上,如果改变电极反相点的位置,就能够改变总的相移函数的相位。当M-Z型调制器的两个臂的电极周期反相点横向移动达到四分之一的周期,那么就能够实现90°相移,从而实现单边带调制。该调制器能够工作在60GHz以上的频率,只用一路驱动信号就能够简单的实现单边带调制。论文中在共面波导和非对称带状传输线结构的基础上,提出了两种实现单边带调制器的周期反相电极结构。并利用保角变换法得到了两种电极结构的静场解析解。分析了电极结构参数对微波有效折射率、特征阻抗、半波电压等调制器参数的影响,并得到了一组优化的结构参数和性能参数列表。利用系统传递函数的分析方法,得到了周期反相电极的频域和时域响应,分析了工作频率为100GHz的单边带调制器的频域响应,当分段数越多,电极响应的带通特性越强,频带宽度越窄。在分段数为4时,模拟了微波调制和加载10Gb/s非归零码(NRZ)的副载波调制的时频响应,得到了较理想的结果。建立了60GHz的单边带调制器的模型,在光通信系统仿真软件OptiSystem中,模拟了60GHz单边带调制的ROF传输系统。实现了边带抑制比大于40dB的单边带调制,并在长距离的光纤传输中,将色散引起的射频功率代价减小到2dB以内。