随着长距离无中继光纤通信系统的不断发展,人们对光纤放大器的性能要求也越来越高。在这种背景下,混合光放大器开始引起科研人员的关注。混合光放大器是一种将光纤拉曼放大器与掺铒光纤放大器或者光纤拉曼放大器与光纤参量放大器混合使用,相互弥补从而实现超宽带、平坦化增益的光中继器。在长距离光纤通信中,要实现多路信号的传输,就需要保证光放大器的增益谱足够平坦。本文通过建模仿真对比的方式,对多波长混合光放大器增益谱平坦化进行了研究,并通过差分进化算法实现了对增益谱平坦度的优化。本论文的主要工作和成果如下：(1)介绍了FRA、EDFA、FOPA的原理、结构和分类。并通过建模仿真的方式探究了影响三种光纤放大器增益谱的因素,比如,泵浦功率、泵浦波长、光纤长度、光纤有效面积等。为后面增益谱的优化的研究提供了理论依据。(2)介绍了优化增益谱所使用的差分进化算法的原理,并探究了如何利用差分进化算法优化增益谱平坦度,画出优化流程图。利用这个方法对双泵浦FRA增益谱进行优化,得到增益带宽为28nm、增益波动约为1.6dB的增益谱。验证了利用智能优化算法优化增益谱的可行性。改变算法的优化参数,就可以对具有更多泵浦的混合光放大器的增益谱进行优化。为后面优化混合放大增益谱打下基础。(3)建立二阶泵浦FRA模型并进行仿真,探究一阶泵浦和二阶泵浦功率的搭配方式,对比了不同搭配方式下,一阶泵浦光、二阶泵浦光和信号光沿着光纤的功率分布情况,最终得到最优的搭配方式,为后面二阶泵浦拉曼-参量光纤混合放大增益的优化提供了理论依据。(4)分别建立多泵浦拉曼-掺铒光纤混合放大和二阶泵浦拉曼-参量光纤混合放大模型并进行仿真,基于差分进化算法对它们的增益谱平坦度进行优化,分别得到增益带宽为93nm、增益波动1.4dB和增益波动1.2dB的增益谱。验证了本文通过混合放大器的使用并对其增益谱进行优化来实现宽带平坦化增益的可行性。