全光模数转换是利用光作为载体对信号进行处理的方法,可以解决电子瓶颈问题,现在受到人们的广泛关注。根据量化方式的不同,全光模数转换被分为三类:幅度量化,相位量化以及频率量化。幅度量化具有原理简单、系统成熟的特点,用的较多。随着非线性光学的发展,利用光学非线性效应的全光模数转换方法被提出来,以孤子自频移为代表的频率量化模数转换方法成为研究的热点之一。相对于幅度和相位量化,其具有更高的频带利用率,更好的全光编码性能。为了进一步优化现有的孤子自频移量化及编码方案,提升全光模数转换系统性能,本文进行了如下的研究工作:1.为了提高全光模数转换编码精度,设计了一种新型的定向耦合器和全光编码器。定向耦合器中采用对称和非对称的波导结构,可以控制光信号在波导中传输过程中的相位,实现宽带波长范围内的定向耦合。通过数值计算给出了波导尺寸、信号波长与耦合比例的关系。设计了基于该定向耦合器的编码器并应用于孤子自频移全光模数转换系统中,仿真分析表明,在100nm的波长范围内耦合比例波动范围低于7dB,最高能为系统减小24.3%的强度误差,编码器的总长度小于100 μ m。2.提出了一种新型的基于孤子自频移效应的全光量化和编码系统方案,该方案采用频率和幅度两种方法对信号进行级联量化,并设计新的编码方法实现模数转换效果。此方案可使现有的基于孤子自频移效应的全光量化系统的有效量化分辨率得到1.5bit的提升。仿真得到了该系统的量化传递函数,其积分非线性和微分非线性误差控制在±0.5LSB的范围内。并分析了噪声、误码和量化误差等因素对系统性能的影响。