在实践和理论研究中,存在大量具有非平滑动态的控制系统。非平滑系统轨迹的不唯一性造成了原有基于平滑系统的控制理论不足以处理非平滑控制系统在实践中遇到的问题,同时也缺乏行之有效的手段来解决非平滑控制系统的设计问题,因此从控制理论和控制工程角度对非平滑控制系统进行深入研究,改进和完善现有非平滑控制系统分析和设计具有重要的理论意义和工程价值。本文应用非平滑分析等手段着重讨论了Filippov微分包含描述的非平滑控制系统分析与设计问题。在非平滑系统轨迹运动分析、基于非平滑Lipschitz切换面的滑模变结构控制、基于非平滑Lipschitz状态反馈的backstepping设计方法和受限约束下的Lagrange系统运动控制等方面,文中做了如下研究工作:首先,针对Filippov微分包含描述的非平滑系统轨迹运动分析问题,通过判定轨迹同非平滑Lipschitz曲面的关系来研究非平滑Lipschitz曲面外和曲面上的轨迹运动,给出轨迹与曲面不相交、轨迹穿越曲面和轨迹在曲面上滑动这三种基本情形的切锥判据。为分析非平滑Lipschitz曲面上轨迹的运动,利用高维向量积法判定非平滑Lipschitz曲面上的滑模运动与曲面上非平滑区域关系。上述研究,为进一步研究非平滑控制系统的设计问题奠定了理论基础。其次,针对基于线性Lipschitz切换面的滑模变结构控制设计问题,利用相依锥判据作为控制器设计时的新滑模到达条件和滑模存在条件,给出了基于全局相依锥条件的滑模控制器设计方法和基于非全局相依锥条件的滑模控制器设计方法。为进一步解决线性Lipschitz切换面的选取问题,从基于线性切换面的滑模变结构控制出发,对滑模面的唯一性进行讨论,并以此给出了基于组合切换面的滑模变结构控制设计方法。然后,针对一类参数化严格反馈非线性系统的镇定和跟踪控制问题,结合非平滑系统轨迹关于切换面的穿越条件和非连续自适应律设计方法,由二阶系统非平滑Lipschitz反馈设计出发,对非平滑backstepping方法进行研究。进一步将基于非平滑Lipschitz反馈的backstepping设计方法推广到一般参数化严格反馈非线性系统的非平滑镇定和跟踪控制中,使得虚拟控制可以依据轨迹所在区域进行选取,可提高backstepping设计时的灵活性。最后,对受限约束下的Lagrange系统运动控制问题进行研究,基于非平滑backstepping方法给出可随跟踪误差所在区域调节反馈增益的Lipschitz反馈控制器设计。进而又为解决控制器输出饱和问题,对区域划分和控制参数选择进行讨论,给出避免输出饱和的充分条件。并将该设计方法应用于一类二自由度机械臂系统运动控制中,仿真结果表明该设计方法不但能有效的避免控制器输出饱和,而且较一般设计方法有较好的响应性能。