光纤通信是为当今电信网络的最终用户提供宽带服务的驱动力之一,能够覆盖更大的地理区域,光纤被用作传输介质,与传统双绞线电缆的铜线相比,具有很多优点,比如光纤的线径细、重量轻、原料丰富,有利于资源利用,正是这些优点是使人们的日常生活变得轻松。为了支持不断增长的互联网流量和多媒体通信服务,未来的光接入网系统将具有超高传输速度和超大容量的特点。目前接入网面临着光网络不透明、频谱效率低、带宽严重不足等问题,为了解决这一系列问题,本文提出利用易集成的半导体光放大器为波长转换提供一种透明光网络方案;利用高阶调制方案替代传统的直接调制来提高频谱效率;利用相干检测技术接收高阶调制信号并为‘λ-to-the-user’提供一种可行性方案,从而缓解目前带宽严重不足的问题。全文的主要工作有以下几个方面:1、建立基于迭代算法的稳态模型。以半导体光放大器（Semiconductor optical amplifier,SOA）宽带理论模型为基础,在考虑载流子浓度和放大自发辐射噪声变化的情况下,对In P-In Ga As P均匀掩埋的半导体光放大器建立了一种有效的数学模型,实时更新其载流子浓度、放大自发辐射噪声、受激辐射等参数,最终通过该稳态模型得到了在一定偏置电流、输入功率下,器件的增益和噪声指数。2、利用SOA来实现快速波长转换。在前期建立的SOA宽带模型的基础上,进一步分析波长转换中SOA四波混频的理论模型,并对该理论在10 Gb/s传输速率下进行全光波长转换的理论验证实验,并针对某一信道实现波长转换;然后进一步搭建了4×10Gb/s的双向传输系统,通过观察其在多信道下的传输误码率和眼图来分析系统的传输性能。3、实现差分相移键控（Differential phase shift keying,DPSK）高阶调制的相干检测。首先讨论了光调制的工作原理,对基于强度调制和相位调制下的几种新型调制格式进行了仿真研究,通过理论分析对比几种调制格式的优劣。然后利用DPSK调制和解调方案,在40 Gb/s传输速率下对平衡检测和相干检测方案进行对比,进一步验证相干检测在误码率、接收机灵敏度等方面的优势。