由于各种非光滑因素的存在而产生的一类动力系统称为非光滑动力系统,这类系统广泛地存在于各种工程实际中。而非光滑因素的存在,使得此类系统通常是非线性甚至强非线性的,从而可以展示出非常丰富的动力学行为。本文以随机激励下碰撞振动系统这种非常具有代表性的非光滑系统作为主要的研究对象,分析了这类系统的稳态响应以及稳定性,并研究了噪声对系统响应的影响,其主要工作和结论如下:　　首先,基于广义谐和函数单自由度强非线性系统的随机平均法,研究了宽带激励下单自由度碰撞振动系统的稳态响应,分别得到了该系统的位移,能量,幅值的稳态概率密度以及位移与速度的联合概率密度,比较分析了不同因素对系统稳态概率密度的影响,并利用数值模拟验算了该方法的准确性,证明了利用该方法求解强非线性系统的可靠性。　　其次,研究了有界噪声参数激励下碰撞振动系统的矩稳定性问题,用Zhuravlev变换法将有界噪声激励下碰撞振动系统转化为连续的非碰撞系统,然后利用随机平均法得到了关于慢变量的随机微分方程。利用随机线性变换将系统的矩稳定性问题转化为矩阵的特征值问题,在没有随机扰动的情形下,给出了系统最大Lyapunov指数的解析表达式;在有随机扰动的情况下,给出了系统任意阶矩Lyapunov指数?(p)的数值算法。　　最后,从客观实际抽象出的模型出发,研究了在谐和与随机噪声联合激励下单边约束的Duffing系统和二自由度碰撞振动系统的响应问题。发现这类碰撞振动系统中不仅具有一般光滑动力系统所能产生现象,而且具有自己本身独特的现象,譬如擦边分岔、倍周期分岔等,并且发现这些现象是互相伴随着产生的。研究还发现随机噪声对于这类系统响应的影响并不像对于光滑系统那样单纯,在某些临界的情况下,随机噪声对于系统响应的影响是非常明显的,甚至改变系统的运动性质。