随着虚拟机在云计算等领域扮演着越来越重要的角色,其本身的安全性也备受关注。虽然虚拟机软件已广泛集成在操作系统中,但现有的操作系统安全测试工具缺乏对虚拟机安全方面的研究。虚拟机复用宿主机物理设备资源,首先应该做到安全隔离。针对此问题,设计开发一套组件,测试虚拟机的安全隔离性。以广泛使用的KVM虚拟机为例,从虚拟机安全隔离角度出发,对虚拟机CPU、内存、存储和网络四个方面的安全隔离测试进行了研究。通过研究系统虚拟化的实现原理,结合KVM虚拟机的运行机制,编写了系统底层程序来完全控制虚拟机。该程序直接获取虚拟机运行时使用的特权寄存器状态,并通过虚拟机之间的同步措施来完成对虚拟机CPU安全隔离的自动化测试。通过判断虚拟机之间是否会共用真实物理内存页、虚拟机的数据在真实物理内存页是否是加密,以及虚拟机中能否获得真实物理内存中残留的信息,来完成虚拟机内存安全隔离的自动化测试。采用基于关键字匹配的密文检测方案来判断虚拟机存储是否加密,以及观察两个虚拟机能否同时使用存储文件,完成对虚拟机存储安全隔离的自动化测试。在虚拟机网络安全隔离测试中,基于各种网络协议的原理来测试虚拟网络设备的安全性,并采用基于网络数据包采集技术获取物理网卡的通信数据来测试虚拟机通信加密以及虚拟机局域网的安全隔离性。经过对KVM虚拟机进行测试,结果表明本测试方案以及测试模块能够很好地完成测试任务,并且测试结果发现KVM虚拟机在内存安全隔离中未实现虚拟机内存加密,其数据可以被宿主机获取,有数据泄露风险。