群体的聚集与分簇在自然界中广泛存在,如菌落、鱼群、鸟群等。聚集指空间中分散的个体通过相互之间的耦合或相互作用,聚集形成一定大小的群体结构,并表现出一定的群体层面的有序性。分簇指群体在空间中聚集形成多个可以明显区分的团簇。对群体聚集、分簇动力学机理的研究在多机器人系统、无人驾驶飞行器群集等多智能体系统的开发与设计中有重要应用。在以往的研究中对群体聚集问题已经有大量的研究结果,但对群体分簇问题的研究目前还很少。本文在研究群体聚集动力学中尚未解决的一些问题的同时,着重研究了群体分簇动力学问题。　　由于群体系统中个体间相互作用常常具有非线性特性,这使得估计群体聚集分布区域的大小以及个体间近邻距离等基本几何特征量都非常困难。传统的Lyapunov方法虽然在某些情况下能够给出一些估计结果,但结果往往非常粗糙。为了解决这一问题,我们提出了一种基于个体间距离分布函数尺度变换的方法,通过尺度变换需要满足的条件以及对个体间距离分布函数的合理假定,可以得到隐含群体分布区域大小与个体间相互作用函数参数的关系式。通过求解关系式即可得到不同参数下群体分布区域大小以及个体间近邻距离的估计结果。仿真结果显示,这种估计结果能够与实际仿真计算结果基本吻合。　　此外,如何使群体聚集形成具有特定几何形状的群体队形也是一个未得到很好解决的问题。通过对现实情况中列队规则的考虑,我们提出了一种新型的具有混合拓扑结构的群体系统模型。在这种模型中个体间吸引相互作用和排斥相互作用分别具有不同耦合拓扑结构。这种混合拓扑结构突破了以往群体系统研究中吸引排斥相互作用共享单一耦合拓扑结构的研究框架。理论分析和数值仿真显示这种新的群体系统模型能够非常容易地实现一些具有典型几何形状的群体队形以及队形的分裂。这些特性是在传统的群体系统模型中很难实现的。　　在群体分簇动力学研究方面,通常假设个体间相互作用为远程吸引近程排斥,利用群体异质性实现群体分簇。这里我们从另外一个角度考虑通过增加同种个体间相互作用的复杂性来实现群体的分簇。我们提出并探讨了中程排斥相互作用在群体系统中导致分簇的动力学机制。理论分析和数值仿真显示中程排斥相互作用可以使群体系统避免聚集形成单一过大的团簇而是倾向于形成多个团簇。在研究中程排斥相互作用如何引起群体分簇的过程中,我们开发出了一套新的刻画群体空间分布特征的符号体系,利用这套符号体系可以证明增强中程排斥相互作用能够导致群体分簇,并且可以估计团簇平均大小、团簇间距等几何特征量与相互作用函数参数的关系。这些理论分析结果与数值仿真结果吻合很好。　　进一步,我们研究了中程排斥导致分簇机制在多智能体系统运动过程中的队形分裂与合并控制方面的应用。理论分析和数值仿真显示仅通过调节中程排斥相互作用的强度和范围参数即可实现群体沿着某个特定方向的分裂与合并,以及调节分开的子群体之间的相对距离。这种队形的分裂有助于实现群体系统同时跟踪多个目标。