检测超高速光通信网络中传输光电场参数(例如:幅度,相位和偏振态)承载的信息和侦测光通信网络中传输光电场所经历的各种干扰源,实现对光通信网络中传输的光信号质量的实时测量,是保证光网络稳定工作的有效手段之一。然而,由于“电子瓶颈”的存在,传统电子测量仪器的带宽不能满足超高速光信号幅度调制信息测量的需求。光非线性采样技术能够克服“电子瓶颈”的限制,实现超高速光信号眼图的测量。随着光纤通信技术的迅猛发展,光电场承载信息方式已经由单纯幅度调制过渡到幅度相位偏振态等多参数组合复杂调制方式。光学高阶复杂调制(例如:正交幅度调制信号,Quadrature Amplitude Modulation,QAM)信号由于其频谱利用效率高,已成为了超高速光通系统的研究热点。光非线性采样技术由于对光电场相位的不敏感,已经不适用于复杂调制光信号的检测。相干检测技术(光线性采样技术与相干检测技术)的出现解决了光非线性采样技术相位不敏感的问题,实现了高速光相位调制信号星座图和与相位相关参数的测量。本文主要围绕超高速光信号的产生(光时分复用技术)与测量(光非线性采样测量技术),光频梳中恒定的载波包络相位测量技术(光线性采样技术),光学高阶调制码型信号的产生(高质量的多进制电信号产生)与测量(相干检测与数字信号处理技术)等技术进行了理论和实验研究。现将本文研究的主要内容和创新总结如下:1.研制了灵敏度为-35dBm低噪掺铒光纤放大器和带宽为800GHz非线性光学采样示波器实验样机。搭建了两级波分复用的桥式掺铒光纤放大器,一级采用低增益光纤获得低噪信号的放大,二级采用高增益光纤获得高增益放大,在两级之间通过两个波分复用器,形成一个桥式双臂结构,实现信号光和泵浦光在两级间传输分离,通过在信号臂上加隔离器达到抑制背向散射自发辐射噪声,实现高灵敏高增益的放大功能;搭建重复频率可调的低噪超短脉冲取样源、采用色散平坦的高非线性光子晶体光纤作为取样门、利用低噪光电探测器,数据采集和软件时钟恢复,实现了800 Gbit/s的信号的眼图显示和测量;2.提出了利用光线性采样技术实现对飞秒激光脉冲恒定载波包络相位测量的方法。以差分正交相移键控(Different Quadrature Phase Shift Keying,DQPSK)光调制信号作为被采样的信号,载波包络相位恒定的光频梳脉冲作为光线性采样系统的取样源,进行了理论推导,从理论上证明了利用光学线性采样技术实现恒定载波包络相位测量的可行性。并通过Labview仿真,实现了对飞秒激光脉冲恒定载波包络相位的精确测量,研究了脉宽、脉冲啁啾对载波包络相位测量的影响。3.利用任意波形发生器输出两路高质量的四电平电信号,将两路电信号通过正交相调制器(In-phase Quadrature,IQ)加载到窄线宽激光器的光载波上,优化输入信号的电平和相位、控制IQ调制器的偏置电压点,实现16-QAM光信号的产生。利用一个本地振荡的窄线宽激光器、90°光混频器、两个平衡探测器、高速模数转换(Analog to Digital Conversion,ADC)转换器,成功实现了16-QAM光信号幅度和相位的采集。通过改变任意波形发生器的采样率可以实现不同速率的光16-QAM信号通信系统。利用基于四次方的FFT的载波频偏估计与补偿,多模的动态均衡,载波相位噪声估计与补偿等数字信号处理算法对光信号在系统传输的过程中所受到的各种损伤进行了估计和补偿。提出了一种新的载波相位噪声估计与补偿算法,将该算法应用到Matlab仿真和实验产生的包含有载波相位噪声16-QAM信号中,得到了载波相位噪声的准确值,对算法中影响信号星座图性能的各个参数进行优化,清晰的恢复出了加载在光载波上电信号的星座图。