随着网络结构、用户需求日益多样化、复杂化，各种各样网络技术应运而生。典型的两种网络技术是异步传输模式（Asynchronous Transfer Mode）技术和TCP/IP协议下的Internet技术。网络规模的日益扩大和应用类型的丰富，使得网络拥塞变得越来越严重，实施网络拥塞控制是保证网络基本服务质量的前提。因此有效解决网络的拥塞问题对提高网络性能具有重要意义。网络拥塞问题的研究已经形成了计算机网络、通讯与自动控制等几个交叉学科新的研究热点，其中控制理论已经成为通讯网络研究的有效手段。　　 本文以ATM网络和IP网络为研究对象，详细论述了拥塞控制机制及其国内外研究现状，将ATM网络和IP网络的拥塞控制看作是一个具有通信时延的非线性动态反馈系统，运用控制理论的方法对ATM网络和IP网络的拥塞控制进行研究。　　 首先提出了ATM网络自适应广义预测拥塞控制算法。考虑到自适应广义预测控制方法具有抗负载扰动、抗随机噪声、时延变化能力高等特点，将ATM网络中高优先级业务的存在、排队及交换延迟视为干扰，设计了自适应广义预测拥塞控制算法，并进行仿真实验，结果表明该算法可提高网络利用率，实现了带宽分配的公平性，具有较强的鲁棒性。　　 接下来本文首次将哑铃型ATM网络模型处理为一个多入单出系统，用自校正极点配置方法设计了一个新的拥塞控制器。利用极点与系统性能指标的关系，根据网络的实际使用情况，将闭环系统的极点配置在期望的位置上，以实现动态跟踪网络带宽变化、调整缓冲器队列长度，达到快速响应网络的状态变化并降低网络数据丢失率的目的。最后通过仿真实验，仿真结果证实此算法可提高网络利用率和实现带宽的公平分配。　　 网络的复杂性使IP网络中的TCP/AQM模型具有一定的不确定性。本文首次将自抗扰控制技术应用其中。自抗扰技术将系统的外部干扰项和内部的未建模动态视为系统的总扰动，通过状态观测器对其进行估计，并由非线性状态误差反馈进行补偿。由于自抗扰控制器不依赖于被控对象的模型，所以具有较强的鲁棒性；此外它能够很好的解决系统动态响应过程中快速性和超调之间的矛盾。因此本文设计了基于自抗扰控制技术的IP网络主动队列管理策略并进行仿真实验。结果表明了自抗扰主动队列管理策略对用户数变化、回路时延以及带宽容量等均表现出较好的鲁棒性。　　 高性能通信网络是一个分布式、具有高速性、动态性、开放性和不确定性的复杂系统，本文利用多Agent系统固有的分布性以及对复杂环境的学习适应能力，提出了一种新的基于多Agent的联邦式网络拥塞控制系统结构，将整个网络视作多个不同的协调区的集合，每个协调区内有一个协调Agent，负责本区域内的拥塞控制Agent之间的相互协调。不同协调区中的拥塞控制Agent交互通过各协调区中的协调Agent来进行。对于每个协调区中的拥塞控制Agent，采用强化学习算法来设计其控制库，以保证其对瓶颈节点拥塞的解除。仿真实验证实了基于多Agent的控制策略的有效性。