非线性切换系统是一类典型且重要的混杂系统，关于它的控制器设计和性能分析有着重要的理论意义和应用价值。近年来，对于不确定非线性系统和非线性切换系统的优化控制和稳定性方面的研究，已经受到了科研工作者的广泛关注，并取得了一定的研究成果，但还存在很多问题需要进一步的解决。本文针对非线性切换系统，给出了两类控制器的优化设计和稳定性分析。首先：针对状态和输入受约束的不确定非线性系统，给出了一种基于有界控制下的最大初始稳定区域的优化算法，并给出了基于李亚普诺夫函数的预测函数控制器设计。由于考虑到预测函数控制中的优化问题的初始不可行性，我们先用基于李亚普诺夫函数的有界控制器，驱使状态到达最大吸引域，然后切换到预测函数控制器，在保证系统稳定性的同时满足状态和输入约束。第二：针对非线性切换系统，在条件相对较弱的情况下，首先将非线性子系统转化为线性变参数系统，然后利用凸函数的性质和线性矩阵不等式（LMI）方法，推导出非线性子系统的一组状态反馈律并且镇定子系统，最后利用back-stepping方法设计非线性切换系统的一组实际的状态反馈控制器，并用多Lyapunov函数方法设计了切换规则。在切换规则作用下，可以保证非线性切换系统的稳定性。