入侵检测技术是保护网络系统的重要手段之一，基于主机的入侵检测系统主要用于对重点主机实施防护，具有检测效率高和检测准确性高等优点。系统调用是外界进入系统的必经之路，是攻击者入侵系统的主要攻击目标，本文从异常检测和误用检测两个方面研究了基于系统调用的入侵检测方法，同时对基于免疫机理的入侵检测系统进行了详细介绍，最后对基于系统调用的入侵响应方面进行了探讨性研究。 目前，系统调用序列已成为基于主机入侵检测系统重要的数据源，通过分析系统调用序列来判断入侵事件具有准确性高、误报率低和稳定性好等优点。本文结合误用检测和异常检测技术首次提出一种基于系统调用的分级检测模型，异常检测部分使用一种针对系统调用序列的高效低负的检测方法，通过粗糙集理论分析进程正常运行时产生的系统调用序列，提取最简的预测规则模型。该方法建立正常模型需要的训练数据获取简单，生成的小规则集利于实时检测，能更有效的检测进程的异常运行状态。实验证明该方法的检测效率明显优于其他建模方法。 其次本文对基于免疫机理的入侵检测模型进行了深讨，将生物免疫原理应用到入侵检测系统的设计与实现中以改进现有方法的不足。将肽链定义为在操作系统中由特权进程执行的系统调用短序列，提出一种新型的入侵检测系统——基于生物免疫学的入侵检测系统，该系统独创性的提出借助粗糙集理论解决免疫系统先验知识不足问题，加快免疫抗体的产生。由于计算机安全系统要解决的问题与免疫系统要解决的问题非常类似，所以将生物免疫学的原理和方法引入计算机安全领域的研究是非常有意义的。