模数转换器（Analog-to-digital Converter,ADC）作为关键的前端信号处理器,是连接模拟和数字世界的桥梁。目前,具有更高采样率、更大带宽和更好性能的ADC已成为如高速光通信系统、超宽带无线系统以及需要对输入信号进行高速数字化的实时信号采集和处理系统的重要组成部分。传统的电子ADC由于其固有的孔径抖动和比较器模糊等问题,在这些先进的高频系统应用中受到限制。而利用超低抖动光脉冲作为采样源的光ADC,因其高采样速率、高带宽的特点,具有能够克服电子瓶颈的可能性,是未来超高速ADC的一种有前景的技术。近年来,关于光ADC研究主要集中于光器件或实验方案的设计,鲜有在结合或扩展到信号处理算法领域方面的报道。考虑到信号处理算法在ADC的信号重构和性能提升上的重要性,本论文致力于光ADC后端信号处理方面的研究,通过算法设计、研究和实现,以提升光ADC系统的性能。本文的主要研究内容与成果如下:1、根据3.32比特全光量化器的量化曲线和编码特点,以及量化系统的实际工作条件,分析了系统噪声所导致的错误编码概率模型,根据概率模型得到的不同输出误码结果,本文有针对性地提出了相应的误码识别和纠错算法,并以伪代码的形式给出。本文提出的算法还弥补了此前大部分文献仅研究单频正弦输入的不足,结合信号处理领域的最新进展,把输入信号类型扩展至所有的带限信号输入,使得实际ADC的应用场景更广泛。仿真结果表明,随着噪声水平的逐渐增加,纠错算法对于输出数字信号的信噪比的改善越明显,且始终维持了3dB至7dB的信噪比提高,在不同的噪声水平下此算法的纠错能力得到了验证。2、提出了一种新型的模ADC结构,其将现有的光ADC方案与信号恢复算法结合,克服了传统ADC在动态范围上的屏障,实现了高动态范围的光ADC。由于相关的模信号恢复算法并未考虑信号量化过程,但信号量化在ADC中必不可少,本文在考虑ADC的量化噪声之后,重新定义并证明了保证模信号恢复的充分条件,也即从低动态范围的量化模样本中成功恢复出高动态范围的原始模拟信号所需的采样率条件,并且以数值仿真的结果验证了此信号恢复的充分条件;本文还讨论了使用其他的模信号恢复算法时的恢复条件,仿真和比较了不同恢复算法的性能优劣。最后,通过实际5通道级联型多模干涉耦合器搭建的光ADC系统,实验验证了其具有模操作以及实现高动态范围光ADC的可行性。实验结果表明,通过提升输入信号动态范围,使得原光ADC系统的有效量化比特位数提高了 2.8比特。