MANET网络由于其本身固有的开放式介质、动态拓扑及分布式合作等特性,更容易受到各种异常行为的影响,其安全问题成为MANET网络能否生存和发展的关键问题,对异常行为的检测和防御研究更是当前的难点。本文以“十五”国防预研计划资助项目(41306050103)和国防科工委“十一五”预研项目(C0820061362)为背景,对MANET网络中的异常行为的检测与防御方法问题进行了探索,重点针对MANET网络的安全路由算法、异常行为的检测方法以及密钥管理和认证进行了深入的研究。首先,介绍了MANET环境中的几种主要异常行为,包括黑洞,虫洞,灰洞,方向误导,路由拥塞等,说明了它们产生的原因及可能形成的危害,利用了OPNET仿真工具,对这几种异常行为进行了仿真建模和仿真测试,测试结果符合预期效果,为对后面MANET环境中的异常行为的检测与防御的研究打下了一个坚实的基础。提出了一种基于移动Agent的路由算法。它由两个分算法组成,即基于移动Agent节点连接矩阵表构建算法和数据报文的路径选择算法。移动Agent根据“最先访问‘访问次数最少的节点’”的移动策略在网络中运动,同时和各节点交换数据和信息,从而使得各节点得到了整个网络的信息矩阵表;当数据需要进行传输时,根据矩阵表的信息利用“广度优先搜索算法”算法快速得到最佳的路由路径和可利用的备用路径。在路由算法的基础上,增加邻居节点的监视,即成为一个较好的基于移动Agent的异常行为检测算法。本算法综合了先应式路由算法与反应式路由算法的优点,可以对网络全局信息有真实的了解,因而可以很好地解决AODV等协议不易解决的许多安全方面的问题;由于只是利用少量的Agent在网络中运动,因此可以大大地减少维持节点信息而产生的开销和网络时延,具有很高的效率和鲁棒性。建立了基于移动Agent的异常行为检测系统,重点分析了贝叶斯方法和拜占庭方法。系统由监视器,本地判断,综合判断,通讯,路径处理等五个子系统组成。在本地判断子系统中包含一个荣誉系统,本地节点对邻居节点进行观察,分析异常行为的性质,并使用贝叶斯方法对异常行为进行统计,当可疑行为超出了预定的门限值时,发出告警信号,并采用绕路的措施,发送的数据包避开异常节点;检测系统不仅仅只依靠本地邻居节点的观察,还需要利用其他节点发来的告警信号,利用拜占庭方法进行综合判断,判断确认后,对异常行为采取彻底删除的措施,使异常节点离开网络。实验证明,基于移动Agent的检测系统具有较高的检测率和吞吐量,较低的误报率和路由开销率。针对在MANET网络环境中的异常节点的防御,提出了一种基于移动Agent的基于身份及门限的分布式密钥管理和认证的方法。介绍了主钥产生、分布式节点的私钥产生、密钥份额刷新、新加入节点的密钥创建、基于身份的认证以及密钥撤销等方法。本方法使用了基于身份的加密系统用于认证和加密,完全避免了一个认证中心或可信赖的第三方来分布公钥和证书,使用很少的Agent来交换密钥信息,提高了认证成功率,并降低认证时间和网络开销。