含随机性、时滞、脉冲与切换、以及反应扩散等特性的复杂非线性系统广泛存在于自然界和实际工程中.受状态变量的非线性演化,连续动态和离散动态的混杂驱动,以及随机因素的不确定影响,这类系统呈现出复杂动力学行为.如何根据系统的内在结构和演化规律,发展有效的数学方法,定性分析它们的动力学特性,并设计实用和有效的控制策略,成为这类系统分析与控制的研究主题.本文针对几类非线性复杂系统,从系统结构入手,研究它们的多稳定性与周期性现象；从驱动机制入手,建立脉冲、采样与间歇等混杂控制策略.主要工作如下：(1)研究了时滞随机Hopfield神经网络的多稳定性问题.基于激活函数的几何结构,将相空间划分为2n+1个子空间,包含2n个无界的矩形域.利用Schauder不动点定理及随机分析技术,证明了这2n个矩形域为系统概率为1的正不变集以及每个矩形域内存在唯一的平衡点.然后,针对缓变时滞和快变时滞情形,分别利用Lyapunov函数和泛函方法,建立了这些平衡点均方指数稳定的判据.(2)研究了时滞随机细胞神经网络多周期解的存在性、稳定性及抗干扰问题.利用压缩映像原理、随机分析技术并结合Lyapunov泛函方法,建立了随机时滞神经网络多周期解的存在性与唯一性判别准则.然后,给出了时滞细胞神经网络多周期解的干扰衰减分析.分析表明：周期解的多稳定特性对随机扰动具有一定的鲁棒性.(3)研究了脉冲驱动下的时滞神经网络周期轨道的生成与控制问题.引入“权重”相空间PCα,以该空间为基础,建立了无界分布时滞脉冲神经网络周期解存在性、唯一性与全局指数稳定性一般性准则.然后,基于与脉冲时间序列相关的加权Lyapunov函数／泛函分析方法,建立了周期脉冲驱动下生成全局稳定周期轨道的控制策略.(4)研究了混合时滞反应扩散神经网络的脉冲同步问题并应用于图像加密.首先,运用脉冲时间依赖的Lyapunov泛函分析技术并运用改进的、Virtinger不等式处理扩散项,建立了系统输出反馈脉冲同步的新准则,与现有结果相比,该准则较大程度地降低了现有结果的保守性.然后,应用所得到的同步结果,设计基于时空混沌脉冲同步的图像加密与解密算法,并用于构建能传送加密图像的保密通信系统.最后,给出了图像加密算法的仿真实验,并利用密钥空间、密钥敏感性、统计分析以及信息熵分析等指标对图像加密算法进行安全性测试.测试结果显示,所提出的图像加密方案具有密钥空间大、抗攻击能力强的优点.(5)研究了基于点测量输出的反应扩散神经网络的有限维间歇镇定问题.所提出的镇定方案基于空间采样并关于时间间歇,即控制器只在“工作时间”被激活,且在“工作时间”的每个时刻,只在空间中的有限个点对状态采样.引入分段Lyapunov函数,并利用、Virtinger积分不等式充分发掘扩散项的镇定作用,建立了系统全局指数稳定的充分条件,该条件定量揭示了控制宽度、休息宽度、空间采样步长之间的关系.基于稳定性条件,给出了有限维间歇控制器的参数化设计方法.(6)研究了一维半线性对流扩散系统的采样分布H∞控制问题.基于状态在空间有限个点的一系列离散时刻采样信息,提出了Razumikhin-Lyapunov泛函分析技术,建立了系统可采样分布反馈镇定并具有有限L2-增益的准则.该准则定量揭示了空间采样步长、时间采样步长与系统L2-增益之间的关系.与Fridman所提出的Halanay不等式方法相比,本文提出的Razumikhin型方法不仅较完整地解决了采样分布H∞控制问题,而且,在采样分布镇定问题上,较大程度地降低了Fridam结果的保守性.