轧机的振动历来是钢铁行业关注的技术难题之一，在轧制生产过程中轧机辊系振动频繁发生，会导致轧辊磨损加剧，带材表面出现明暗相间条纹，降低轧制产品质量和精度，甚至引起轧制设备的损坏。因此迫切需要了解轧机振动原因，掌握其振动机理，提出可行方法以有效的控制和消除轧机振动。首先，本文以轧机为研究对象，考虑轧机在实际生产中，垂直方向与水平方向的振动是相互影响，相互耦合的，同时考虑轧机结构、非线性刚度、非线性阻尼、张力波动、外激励变化等因素建立了三种振动模型，即基于动态轧制过程下、变摩擦力下、多自由度轧机辊系垂直-水平耦合非线性振动控制机理模型。其次，采用多尺度法求解动态轧制过程下、变摩擦力下轧机辊系垂直-水平耦合控制模型的解析近似解，得到各自的幅频特性方程。在此基础上利用奇异性理论得到了动态轧制过程下耦合系统主共振与变摩擦力下耦合系统的分岔响应方程。应用谐波平衡法给出了多自由度轧机辊系垂直-水平耦合振动控制模型的幅频响应方程组。再次，基于奇异性理论研究了动态轧制过程下主共振与变摩擦力下耦合系统的静态分岔特性，得到不同参数下系统的转迁集以及不同区域内分岔曲线的拓扑结构图，由此可以得到导致轧机失稳的工艺参数区域。以轧机实际参数为例，仿真研究了不同非线性参数对各类振动控制机理模型幅频特性的影响，揭示了板带轧机耦合振动系统的特性与规律。最后，用数值仿真分析了动态轧制过程下和多自由度轧机辊系垂直-水平耦合振动系统的动态分岔与混沌运动现象。用相图、Poincare截面和最大Lyapunov指数曲线验证了混沌运动的演化途径，为以后研究轧机辊系耦合振动力学特性和控制轧机振动提供理论依据。