恶意软件分析是快速准确的识别恶意软件行为,清除恶意软件,保护系统和其他应用程序安全的重要措施。随着恶意软件抗分析技术的发展,恶意软件广泛使用了加壳、加密、混淆等抗分析技术,对恶意软件的分析难度越来越大。对恶意代码分析的研究已经成为信息安全领域的一个研究热点。目前的恶意软件分析工具存在着分析环境安全性差、可扩展性能力不足、静态分析和动态分析相互独立,无法适应海量恶意代码分析需求的问题。因此,本文以实现一个安全可靠、可扩展性强、动静态分析结合的恶意软件分析工具为研究目标。本文主要的研究工作如下：1)从动态分析和静态分析两方面研究了恶意软件的分析和检测方法,比较了这些方法的优劣。对恶意软件的抗分析方法进行归纳,明确系统的目标和需求。2)总结了利用系统虚拟化实现恶意软件分析的常用方法和特点及目前的相关研究成果,详细介绍了本文实现所使用的Intel-VT硬件虚拟化技术；3)提出一种基于虚拟化技术的恶意软件分析工具的设计方案,利用硬件虚拟化技术构建安全可靠的动态分析环境,并结合静态分析技术为动态分析过程产生分析策略。通过对开源软件Ether的二次开发实现系统原型,动态分析环境可以从系统调用和指令执行两个粒度截获恶意软件运行过程中状态信息,提供对状态信息调试控制和恶意软件的解密、解壳操作。4)根据实现的系统原型,结合程序切片技术,通过静态分析提取控制流转换的关键信息,产生恶意代码多路径的动态分析调试策略,提高代码覆盖率。实验表明,本文设计的恶意代码分析工具有较强的适应性和扩展性,通过动静态结合分析能够有效的防止加壳、加密等抗分析技术,完成对恶意代码的分析调试工作。