多模态优化算法广泛应用于机械设计、电磁设计、电力系统规划以及蛋白质结构预测等领域。本文主要针对多模态优化算法中小生境问题,进化算法早熟等问题展开研究,同时,在进化算法的框架下引入抽象凸理论,更好的保持了解的多模态特性,并提升算法的可靠性,最后将多模态优化算法应用于蛋白质结构预测问题。本文主要工作和研究成果如下：1.综述了多模态优化算法的发展现状,针对目前多模态优化算法的常用策略,分析其优点,以及存在的不足。2.提出了一种基于动态小生境半径的多模态优化算法。首先,小生境半径设置在一个较大的值,以期在可行域空间中探测到尽可能多的模态。随着算法的进行,小生境半径以一退火路径逐渐减小至某一阈值,之后算法从全局探测转为局部增强过程。为产生一系列高质量的新个体,算法引入差分进化算法交叉和变异策略,有效提升了种群的多样性,并用新个体去更新现有种群。数值实验表明,动态小生境半径策略较好的实现了算法全局探测与局部增强的动态平衡。3.为解决随机算法中生境半径确定难问题及易早熟的不足,论文在进化算法的框架下,结合抽象凸理论,提出了一种基于局部抽象凸支撑面的多模态优化算法。首先,采用模型变换方法将原优化问题转变为单位单纯形约束条件下的严格递增射线凸松弛问题；其次,针对新生成个体的邻域信息构建局部抽象凸支撑面,并利用局部下界知识动态识别种群模态,从而减少替换误差,避免出现早熟现象；最后,借助支撑面下降方向进一步实现模态内部的局部增强过程。4.将多模态优化算法应用于蛋白质构象空间预测等实际问题中,针对多肽高维构象空间采样难题,采用一系列变换方法将ECEPP/3力场模型转换为单纯形约束条件下的递增射线凸函数；基于抽象凸理论,证明并给出了递增射线凸函数的支撑超平面集；然后,在CSA算法框架下,基于群体极小化构象空间的次微分知识构建下界低估支撑面；进而,通过低估支撑面极值点快速枚举方法,逐步减小构象采样空间以提高采样效率；同时,利用下界低估支撑面快速廉价估计原势能模型能量值,有效减少势能模型目标函数的评价次数。甲硫氨酸—脑啡肽(TYR1-GLY2-GLY3-PHE4-MET5)构象空间优化实例验证了算法的有效性。5.最后,对全文的研究工作进行了总结,给出了本文的研究成果以及存在的不足之处,并展望了多模态优化领域的发展方向以及进一步的研究工作。