多目标优化问题在优化领域中是难以解决的瓶颈问题。多目标进化算法是一类基于种群的自然启发的随机算法,具有单次运行可输出问题解集的优点,因此多目标进化算法蓬勃发展,已成为解决多目标优化问题的主流算法。可是,复杂多目标优化问题仍是多目标进化算法的挑战。多目标优化问题的复杂性源于两个方面,即决策和目标空间的复杂性。决策变量间的关联增加了问题困难程度,目标空间的高维度使得Pareto支配关系失效,以及目标空间内的观测噪声误导算法。针对以上两类复杂问题,本文进行相关的探索,完成了具有国际同行认可的工作,主要研究成果有：1.针对决策空间复杂的多目标优化问题,本文提出了一种基于方向向量的多目标协同进化算法。该算法将方向向量概念引入协同进化算法中,首先将整个种群根据目标空间上的初始方向向量将种群划分成若干子群,个体根据其方向向量分配所属子群,然后通过子群间的协同互动求解问题,最后,在欠开发地区内搜索增加多样性。实验结果表明,该算法对于此类问题在收敛性、多样性和均匀性上相比于已有算法具有一定优势。2.多目标优化问题中决策变量和目标函数间具有复杂的映射关系。通常,一决策变量对不同目标函数的影响不同。因此,这种不平衡映射关系引起了决策空间的搜索冗余。针对这种情况,本文提出了一种基于决策空间维数约减的密母局部搜索策略。该策略首先分析决策变量和目标函数间的映射关系,然后通过所得关系将决策空间划分成若干个子空间,最后在子空间内进行密母局部搜索策略来提高算法性能。此外,该策略可容易地移植到已有多目标进化算法中。实验结果表明该策略可有效提高已有多目标进化算法在具有不平衡映射关系问题上的性能。3.非支配排序是基于Pareto的多目标进化算法中的重要一步。对于高维多目标优化问题的非支配排序需要更多次比较。为提高其排序速度,本文提出了一种角解优先的排序方法(简称角排序)。角排序首先以一种简单快速的方法从角解中获得一非支配解,然后忽略掉其他解与该解支配掉的解比较。角排序中获得非支配解的方法所需目标比较次数较少,因此可节约比较次数。实验结果表明角排序对高维多目标优化问题相比于已有排序方法所需目标比较次数少。4.一些高维多目标优化问题的冗余目标间的相关性可能是线性或非线性的。目标约减方法可以有效的降低具有冗余目标的高维多目标优化问题的难度。为此,本文提出了一种基于非线性相关信息熵测度的目标约减方法。该算法采用非线性相关信息熵矩阵测量当前非支配种群作为数据集来分析目标间线性和非线性相关关系,并采用一种简单方法选取最矛盾的目标集合。实验结果表明该算法有助于基于Pareto的多目标进化算法求解具有冗余目标的高维多目标优化问题,却无益于基于指标的多目标进化算法。5.高维多目标优化问题给多目标进化算法在收敛性、多样性和复杂度方面上都带来了困难,已有算法仅能在其中一方面表现良好。双档案算法是一种包含两个分别针对收敛性和多样性档案且低复杂度的多目标进化算法。为了设计一种在收敛性、多样性和复杂度三方面上具有平衡性能的算法,本文提出了一种针对高维多目标优化问题的双档案算法。该算法分配两个档案不同选择规则,收敛性档案是基于指标的,多样性档案是基于Pareto的。此外,该算法采用一种基于Lp范数距离(p<1)多样性保持策略针对高维多目标优化问题的多样性。实验表明该算法在高维多目标优化问题上的收敛性和多样性相比以往算法有一定优势,可处理20目标优化问题。6.描述Pareto前端范围的最底点有助于决策者更准确地输入其偏好信息。然而,高维多目标优化问题的最底点难以获得。为此,本文提出了一种重要区域优先的最底点估计方法。该算法除了保存非支配解集中极点周围个体以外,还均衡保存具有单个目标最优值的重要区域来增加种群的多样性,进而加快收敛速度。此外,该算法采用一种自适应ε-删除策略删除近似个体进一步增强种群多样性。实验表明该算法对10-35目标优化问题的最底点估计优于已有算法。7.源于目标观测的噪声降低多目标进化算法性能。模型的方法已经用于去噪,但已有方法并没有考虑任何多目标优化问题本身特性。正则模型是种针对多目标优化问题降维模型。本文通过对正则模型研究发现该模型可高效地求解含噪多目标优化问题,并且可嵌入已有算法中。实验证明多目标进化算法嵌入正则模型后可改善该算法在含噪问题上的性能,却不能改善在无噪问题上的性能。