水轮机调节系统的动态品质直接影响水电站运行的安全性、可靠性和电力系统的供电质量及供电可靠性，因此建立合适的数学模型并分析其动态特性便显得尤为重要。但由于水轮机调节系统集水力、机械、电气为一体，并有开机、停机、空载、并网运行等多种工作状态，是时变的、非最小相位的复杂非线性控制系统，因此其数学模型的建立及动力分析所涉及的理论和方法起点高、难度大。本文在分析水轮机调节系统原理的基础上，采用模块化建模的方法，将水轮机调节系统划分为引水系统、水轮机、发电机、调速器四个子系统，推导建立了各子系统的不同数学模型，并分析总结了各模型的优缺点及适用条件。其中线性化模型是系统特性的一种近似，非线性模型更能准确反映系统特性；线性化模型仅适用于小波动状况，非线性模型可用于任何扰动的运动特性分析；线性化模型分析理论成熟、计算简单快捷，并可反映系统动态过程的一些基本特征；非线性模型的动态描述及分析结果准确，且分析理论及仿真计算越来越成熟和方便。因此，应根据具体目的和要求的不同，综合考虑选择合适的数学模型。在建模基础上提出了各模块的有机整合方法及注意事项，并建立了两个常用的大波动非线性模型，分别为单机单管简单非线性模型和带调压室及长尾水管的非线性模型。简要介绍了非线性系统的稳定性理论、分岔理论及运动特征标志的数值计算方法，给出了四维及高维系统的Hopf分岔的直接代数判据，以及运动特征标志Lyapunov指数及功率谱的简单、常用计算方法。基于介绍的非线性动力学理论具体分析了所建模型的非线性动力特性，主要包括：系统参数改变时的分岔特性，参数选择不同时系统的稳定性及具体运动特性变化。经研究分析得到如下结论：非线性系统的Hopf分岔理论适用于水轮机调节系统的分析，可将其应用于系统参数稳定域的求解，这为水轮机调节系统参数选择提供了一种新的途径。受到外界扰动或无外界扰动时，若调速器参数选择不当，系统均有可能出现低频等幅振荡，此时为系统参数临界分岔点。这为水电站出现的低频振荡现象提供了一种可能的解释。调节参数在一定范围内取值时，不论系统是发散、收敛还是等幅振荡，系统运动均为周期运动。并且在系统稳定域内，调节参数越远离分岔临界值，系统越具有较好的动态稳定性能。系统参数对系统稳定域的影响各不相同，其中较大的机组惯性时间常数、引水管道摩擦系数、速度偏差阻尼系数可以增大系统的稳定域，而水流惯性时间常数、接力器反应时间参数则相反。