文件共享对等网络(Peer-to-Peer File-Sharing Networks)因为能大大方便用户共享文件、具有相当的规模性和可靠性、能有效解决客户/服务器网络的服务瓶颈问题而大受欢迎。然而,利用P2P网络拓扑信息和正常的网络交互行为在P2P网络上传播的蠕虫即P2P蠕虫的出现给文件共享对等网带来巨大安全威胁。分析表明,P2P文件共享网络中可能出现三类蠕虫:被动型蠕虫、激发型蠕虫和主动型蠕虫。被动型蠕虫利用正常的网络交互行为进行传播,主动型蠕虫利用网络拓扑信息和漏洞传播,激发型则在正常的网络交互行为掩护下利用漏洞传播。三种蠕虫都具有很高的传播成功率和很强的隐蔽性,其中主动性蠕虫有着极强的攻击力和极快的传播速度。P2P文件共享网的三个主要特点使其成为蠕虫传播甚至流行的“温床”:(1)每个节点都保存着大量的邻居节点信息。蠕虫通过邻居节点信息就能确切地知道哪些主机在线,然后就可以进行攻击。这不仅大大加快了蠕虫的攻击速度,也极大地增加了攻击的隐蔽性;(2)同构型。P2P网络用户通常运行同样的客户端软件,这意味着只要客户端软件有漏洞,则整个网络都有漏洞,蠕虫在极短的时间内就能感染网络中所有主机;(3)自由性。用户和文件在几乎没有任何限制的情况下自由出入网络,这种自由给用户带来极大的方便性和易用性,是P2P文件共享网络深受用户青睐的原因之一;然而,这种自由也为蠕虫的进入带来极大方便,数十种蠕虫在P2P文件共享网中出现就是很好的例证。考虑到P2P蠕虫已经成为P2P文件共享网的巨大安全威胁,有效的P2P蠕虫传播模型尚未提出,而基于对蠕虫传播机制的分析和各种网络条件对蠕虫传播的影响而建立的有效的蠕虫传播模型,能够充分反映蠕虫的传播行为,识别网络蠕虫传播链中存在的薄弱环节,同时可以预测网络蠕虫可能带来的威胁,本文综合流行病学、复杂网络理论、网络仿真技术等理论和技术对三种P2P蠕虫的传播数学模型和传播仿真模型进行了深入研究,取得了如下创新性成果:针对已有的P2P被动型蠕虫传播数学模型没有考虑P2P文件共享网的动态性这一不足,提出了充分考虑P2P网络动态性的P2P被动型蠕虫的传播数学模型和传播仿真模型;基于提出的传播数学模型,利用流行病学的重要理论,推导出P2P被动型蠕虫不会流行的充分条件。通过仿真实验验证了P2P被动型蠕虫传播数学模型的有效性及其不会流行充分条件的正确性。针对P2P激发型蠕虫尚无传播数学模型的事实,使用平均场法并参考流行病学经典传播模型,提出了P2P激发型蠕虫的传播数学模型;根据所提出的P2P激发型蠕虫传播数学模型,利用流行病学重要理论,推导出该类蠕虫不会流行的充分条件。基于仿真模型进行的大规模仿真实验证明了所提出数学模型的有效性和蠕虫不会流行的充分条件的正确性。实验还表明,蠕虫不会流行的充分条件亦可作为蠕虫流行的预警条件。针对P2P主动型蠕虫传播数学模型还未提出,利用流行病学经典传播模型和平均场法,提出了该类蠕虫的传播数学模型。鉴于P2P文件共享网的拓扑结构对自启式主动型蠕虫的巨大影响,通过仿真的方式对P2P文件共享逻辑网的拓扑特征进行了研究。仿真结果分析表明,P2P文件共享逻辑网是一种度分布为指数分布的小世界网络,属于均匀网络。基于这一结果,分别提出了均匀网络上的自启式和干预式主动型蠕虫传播数学模型。考虑到有研究表明P2P文件共享覆盖网是无标度网络,提出了非均匀网络上的自启式P2P主动型蠕虫传播数学模型。提出的数学模型的有效性均得到了大规模仿真实验的验证。