多目标优化问题广泛存在于生产实践中。根据目标数目不同,本文将多目标优化问题细分为经典多目标优化问题、高维多目标优化问题和超多目标优化问题;根据最优解与目标间的对应满足程度不同,提出一类特殊的多目标优化问题。传统多目标优化问题默认目标间存在竞争关系。目标间常见的其他关系还包括相似、冗余、协作、约束和不相关的关系。由于较多的目标数,高维和超多目标优化算法的性能仍面临挑战。传统多目标优化算法搜索问题的最优妥协解,不适于求解目标需要完全满足的特殊多目标优化问题。本文针对不同类型的多目标优化问题,根据目标关系研究求解方法。从提高算法性能角度,研究目标间默认竞争关系的高维多目标优化算法,以及具有相似或冗余关系的超多目标优化算法;从问题求解效率角度,对具有约束关系的多目标优化问题提出分层优化的求解算法,对具有协作关系的特殊多目标优化问题提出求解方法。本文主要贡献和具体研究内容包括以下四方面。（1）针对经典算法NSGA-III在求解具有竞争关系的高维多目标优化问题时存在的不能确定搜索整个解空间和单项目标最优解不能确定参与进化的问题,提出了基于双存档策略的高维多目标优化算法。基准测试函数上的实验表明,所提算法能够更快找到分布性更优的解集。该方法也适用于经典的基于分解的多目标优化算法和基于参考点的其他多目标优化算法。（2）对于目标间存在相似和冗余关系的超多目标优化问题,提出了基于自适应生长树聚类的目标约简求解方法,克服了聚类数目难以确定和目标样本点形状复杂时不恰当聚类的问题;提出基于目标聚合的约简方法,克服了删除冗余目标导致的最优解多样性缺失的问题。基准测试函数上的实验表明,所提方法在HV、IGD和综合指标上都具有更好的性能。（3）针对具有约束关系的多目标优化问题,提出了分层优化的求解方法,克服了传统多目标优化算法搜索妥协解的问题,能够使搜索到的最优解确定性地满足约束目标。以冰壶比赛对阵编排问题为实例验证分层优化求解方法的性能。实验表明,所提方法能够找到满足实践需求的最优解。（4）提出了求解需要每个最优解确定性的完全满足一个目标的特殊多目标优化问题的通用框架,克服了传统多目标优化算法在具有竞争关系的目标间寻找妥协解而导致无法完全满足各目标分量需求的问题。对于具有协作关系的多个目标优化问题,设计了分析及利用目标关系信息的优化框架,在软件测试数据生成问题实例中给出了路径表达方式和具体的求解算法。实验表明,所提方法能够有效求解具有协作关系的多个目标优化问题。对于目标间存在不同关系的不同类型的多目标优化问题,本文根据目标关系和问题特点研究高效实用的优化算法,为后继研究不同类型的多目标优化问题求解方法提供了基础。