本文采用理论建模分析与实验研究相对比的方式，对固体力学中某些非线性问题进行了研究。介绍了非线性微分动力系统、运动稳定性、结构稳定性与分岔的一些基本概念及其发展史；推导了一维非线性微分动力系统出现鞍-结分岔、跨临界分岔和音叉分岔这三种基本静态分岔的条件；介绍了非双曲平衡点分岔性态的研究方法与霍普夫分岔。 具体对一根一端固定另一端可在轴向滑移的梁，在其滑动端施加轴向激励时，对其屈曲的状态下的非线性响应过程作了具体的理论分析，推导了这根参激屈曲梁的运动控制方程。由此出发，用多尺度近似法计算出系统的局部分岔值；用数值计算方法分析了该系统的全局分岔现象，给出了在不同激励力作用下屈曲梁横向扰动的位移极值列表；描述了周期激励下该非线性动力系统由倍周期分岔导致混沌的模式，说明倍周期分岔是产生混沌运动的一个途径。模拟出了周期吸引子、混沌吸引子、倍周期吸引子的形态，并且出现了暂态混沌现象，证实了在系统中存在周期倍化、混沌运动以及由暂态混沌过渡到混沌过程中出现的周期窗口等复杂的动力学行为。 在进行理论分析后，设计了一个对应的实验，以检验理论分析的可信程度。实验显示了参数激励作用下屈曲梁基本参数共振与主参数共振的运动过程，得到了梁在周期-倍周期-拟周期-暂态混沌-间歇混沌-周期窗口-混沌一系列非线性响应的时域波形与频谱图，揭示出在此类边界条件下的参激系统非线性振动的特性。实验所得数据与理论分析及数值计算所得之结果颇为吻合。 此外，本文还总结了梁、壳、拱等结构的非线性振动问题，将之归结为具有材料非线性、几何非线性、边界条件非线性等性质的动力学模型，模型的数学形式是带有时空变量导数的非线性偏微分方程。根据这类模型的物理关系和几何关系，将它们转化为非线性常微分动力学方程。运用Melnikov方法讨论了此类方程在参数变化情况下的动力学行为，寻求出现Smale型马蹄变换意义下混沌的临界值，用数值方法模拟系统在临界值附近的动力学现象，得到的结果与用Melnikov方法分析之结论吻合。