移动Ad hoc网络是一种不依赖于固定设施的、自组织的分布式无线多跳网络,其组网方便、快捷,不受时间和空间的限制,既可应用于救援、会议、战场、探险等基础设施无法覆盖或危险环境中的目标监控等场合,又可用于Internet网络外围的扩展。特别是在当前的军事和民用领域中运用尤为广泛。Ad hoc网络的主要特点是无线传输、动态拓扑、多跳连接、无线信道共享、带宽受限和能源受限等,这些特点给Ad hoc网络设计高效的路由协议提出了新的挑战。Ad hoc网络中的诸多传统路由协议预先假定网络中所有的节点都以友好合作的状态来进行正常的通信,整个网络没有考虑安全因素对整个通信过程的影响。因而,这些经典的路由协议很容易遭受恶意和自私节点对网络的攻击。一方面,Ad hoc网络由于受到自身能量、可用带宽和计算能力的限制,节点往往表现出自私性的攻击行为;另一方面,网络中也存在恶意节点对网络正常数据包的转发进行的窃听、伪造和篡改等攻击。因此,在设计路由协议时,怎样防范这两类攻击行为,增强网络的性能是目前Ad hoc网络中路由安全研究的热点之一。针对目前采用传统的硬安全措施来对路由协议安全研究的不足,本文从软安全方面中的信任和合作两个方面来减轻路由协议在正常运行过程中恶意和自私攻击的影响,进一步提高网络的性能和安全保障。本文的研究内容主要包含以下5个部分：(1)提出基于节点间关系成熟度度量的信任模型TRM。考虑到当前信任模型存在无法适应信任关系的动态变化,无法支持推荐信任关系的自动形成与更新,对恶意推荐信息也缺乏抵御的能力等方面的不足,提出了一种基于关系成熟度的信任模型和管理机制。该模型对节点间信任关系的表示也是通过直接信任和推荐信任两个方面进行考虑,直接信任的评估就是基于对邻居节点的转发行为监测的结果进行统计分析,而推荐信任是通过定义推荐节点的关系成熟度确保推荐节点信任关系建立的时效性来较准确的进行计算,避免恶意邻居节点提供虚假的推荐信息。整个信任模型体现了信任关系的动态性与时效性。此外,为了对信任模型的有效管理和扩展也提出了相应的信任管理机制。最后,将该模型和机制延伸至经典的AODV协议中进行实现和性能验证。(2)提出将时延和节点间信任关系统一设计的信任QoS路由算法TRQ。鉴于当前对Ad hoc网络中QOS路由问题很少涉及安全方面的研究,本文将QoS参数和信任模型进行综合研究来增强QOS路由的安全性能。由于多维QoS路由问题是个NP完全问题,此外,考虑到Ad hoc网络链路质量的不稳定性和时变性,本文重点对QOS参数中的时延进行分析,设计了基于信任的QoS模型,提出了对应的路由算法TRQ。TRQ算法在路由建立过程中尽量确保所选的最优路径优先选择信任度高的节点和传输时延开销较短的链路,从而达到满足QoS需求下路由软安全的要求。最后,通过仿真实验对该算法进行验证和分析。(3)提出将信任因素与机会路由综合分析的信任机会路由算法MCOR。当前研究热点之一的机会路由,能够利用无线网络中的广播特性,结合无线链路动态、时变和丢失特性,提高数据包的传输效率,以及网络的吞吐量。但是,恶意节点的攻击行为可能对机会路由中转发列表的选择,有效备选转发节点的确定,以及网络数据包的安全传输等方面产生影响。基于此,对机会路由的成本进行建模,提出了一种基于信任的机会路由算法MCOR。该算法具有以下优势：一方面,确保信任度较高以及距离目的节点较近的节点才有可能作为合适的候选节点来转发数据包,另一方面,确保所选择路由的成本是最小的。两方面的优势对机会路由在安全方面给予性能上的增强。最后,通过仿真实验与经典的机会路由算法ExOR进行性能对比。(4)提出对自私行为进行惩罚约束的激励合作模型。本文利用重复博弈论思想,对节点间的数据包转发过程进行建模,定义各自的策略集和合适的效用函数,给出了三种对节点自私行为的惩罚策略及约束条件,实现了一种通用惩罚合作机制,对网络中节点自私行为进行惩罚激励。该通用惩罚合作机制具有较好的扩展性,能够在当前的路由协议进行延伸应用,以此来提高节点间正常通信的协作性,增加节点自身的效用值,减轻自私节点对网络性能的影响。最后,也通过仿真实验对该模型和通用惩罚合作机制进行了测试和验证。(5)提出针对自私行为的基于防策略支付模型的安全激励合作算法ICTP。本文利用博弈论思想中的算法机制设计思想来解决节点自私攻击的问题,指出采用Ad Hoc-VCG支付模型存在的不足,设计了一种防策略和防共谋的支付模型,并提出了基于此模型的安全激励算法ICTP。该算法考虑到路由建立阶段和数据包转发阶段都可能需要对节点积极合作性进行增强来避免自私攻击的可能,从而摒弃以往只考虑路由建立过程的思想。最后,从理论和仿真方面都对该算法进行了论证和分析。综上所述,本文在Ad hoc网络中路由协议安全方面进行了相关的研究,该项工作所取得的研究成果对Ad hoc网络的应用和推广具有很好的理论指导意义。