相对于传统的安全保护措施而言，入侵检测系统是一种积极主动的安全防护技术，在网络系统受到危害之前发觉和响应入侵，有效的弥补了传统网络安全防护技术的缺陷，在信息安全保护体系中扮演重要角色，现已成为网络信息安全的一个重要的研究领域和发展方向。但由于网络流量数据十分庞大、更新快，导致攻击行为一般很难被直接、及时发现，为入侵检测增加了难度。数据挖掘技术的出现为解决这一问题提供了有效手段，尤其在从大量数据中提取特征与规则方面具有明显优势，在入侵检测系统中采用数据挖掘聚类分析来实现其检测的准确性与时效性成为可能。通过聚类分析与入侵检测技术相结合来增强入侵检测系统对海量数据的处理能力。在诸多聚类算法中，蚁群聚类算法是一种较新且较高效率的算法。具有自治性(聚类不再是根据所要求的对数据进行原始分割和分类门，而是通过蚁群搜索行为自然地形成)、灵活性等优点，且不必预先指定簇的数目，在入侵检测的应用中有着重要的研究价值。基于上述的研究背景，论文完成的主要工作归纳如下：1.研究了蚁群聚类的基本模型和LF算法，并分析算法的优缺点。2.针对蚂蚁聚类算法的参数设置较多，且依赖使用者的经验，人为因素影响较大，使得聚类算法缺少普适性，聚类的效果受到影响等不足，提出两种蚂蚁聚类改进方法。一种是基于BM模型的改进方法（LF），结合模拟退火算法思想，动态的调整适应参数，克服了相似度调整因子参数人为凭经验取值影响聚类质量及效果的不足。一种是基于AM模型的改进方法，结合一种自适应的蚂蚁聚类算法(adaptive ant clustering,简称AAC)，通过模拟退火算法思想动态的调整适应参数，改善聚类质量和效果，从而提高入侵检测应用对未知攻击的有效检测效率DR(detection rate)，减少误警率FR(false rate)。3.探讨了聚类算法在入侵检测中的应用。传统聚类的入侵检测方法只适合于发现球状类型的簇。在很多情况下，算法对噪音数据敏感等不足，还存在一些缺陷，即要求正常行为的数目远远大于入侵行为的数目，但在实际的入侵检测应用中有时无法满足。围绕入侵检测应用中存在的一些问题展开深入研究，构建出一种有效的蚁群聚类入侵检测模型（方法）。4.采用KDD CUP1999数据集中的数据对改进后的蚁群聚类构建入侵检测系统，对其效果进行了检测并与其他聚类算法进行对比，证明文中提出的入侵检测方法在准确性及对未知攻击的检测能力方面具有明显的优势。