随着互联网的飞速发展和社会生活信息化的深入，人们越来越依赖于互联网带来的方便和快捷。与此同时，恶意代码也在与时俱进不断发展和壮大。在利益的驱动下出现了黑色产业链，黑色产业链的出现极大地加快了恶意代码的生产速度和传播速度。为了避免遭受恶意代码的侵害，对恶意代码的检测也就变得十分有意义。目前恶意代码的行为分析技术中还存在很多的不足之处，本文主要针对其中的两点作为本文重点研究对象。其一：动态分析中的多路径执行方法在实际应用中存在路径覆盖率低的问题，进而出现对恶意代码的漏报；其二：以往在基于系统调用的特征表示与提取过程中，只把单个的系统调用作为一个特征，这种特征表示方法忽略了相邻系统调用之间的顺序关系，而相邻系统调用间的顺序信息对于行为的判定有积极的作用。针对上述的不足，本文试图解决以上的两个问题，本文的主要工作如下：（1）提出基于高语句覆盖率的多路径执行方法，用于提高路径覆盖率。（2）提出系统调用部分有序的特征表示和提取方法，强调相邻系统调用之间的顺序关系。（3）研究支持向量机的原理及其在恶意代码检测方面的应用。（4）完成基于行为分析的恶意代码检测系统的设计和初步实现，并通过实验验证上述方法的有效性。