本文旨在研究实验模态分析中先进的模态物理分离技术和模态数学分离技术,提高识别大阻尼或模态密集复杂结构模态参数的精确度与效率,提高分析中的自动化程度。本文首先研究实验模态分析的基础理论,掌握结构参数、模态参数的理论特性与推导原理。对于模态物理分离技术的多点正弦激振纯模态试验技术,寻求其最佳激振力矢量是最为关键的环节,本文先推导出纯模态实现的条件,建立以多变量模态指示函数为目标函数的优化模型,通过求解最大特征值问题,得出适调纯模态的初始激振力矢量,再提出以单纯形原理为基础的最佳激振力矢量的实现方法,同时也实现了纯模态适调过程的自动化。对于模态数学分离技术的多参考点最小二乘复频域识别技术,先建立右矩阵分式频响模型,识别出系统极点,再通过建立和分析频率点稳态图,能自动的确定出结构的固有频率、模态阻尼比和模态参与因子,最后根据最小二乘原理识别出模态振型向量。通过本文的研究,满足了大阻尼或模态密集复杂结构的模态定阶与模态参数的精确高效识别,对研究成果进行软件实现,并应用于实际产品开发与科研设计当中。