Xen是运行于x86体系结构上的虚拟机监控器,它支持多个客户操作系统以高性能和强隔离性同时运行。Xen是遵循GNU许可的开源软件。随着现代计算机的发展和Intel x86体系结构的流行,Xen成为一个研究热点。本文系统地总结和分析前人的研究成果。对基于Xen的虚拟机在操作系统安全性、可靠性、面向特定应用的性能、面向特定应用的部署等方面进行了深入细致的研究。本文的主要内容为:1.提出了一个优化Xen虚拟机操作系统安全性的模型。新模型中,利用保护环和安全内核的功能,虚拟机监控器Xen中被用来保护运行时安全内核。虚拟机监控器运行在有最高特权级的保护环上,安全内核和用户进程分别运行在次高特权级和最低特权级的保护环上。当次高特权级的安全内核试图写某些关键的系统资源时,写操作必须经过运行于最高特权级的Xen的验证和许可。结果,该模型能够阻止恶意代码修改并绕过运行时安全内核。2.提出了一种用形式化方法优化Xen虚拟机块设备IO可靠性的方法。用通信顺序进程和软件体系结构等形式化方法描述了Xen的块设备IO体系结构,增加了约束其构件并发交互行为的设计准则,理论上确保了并发交互的不死锁,提高了系统的可靠性。以这些设计准则为指导,重新优化了相关程序。实验表明优化带来了IO吞吐量的一些降低。但系统的可靠性得到了增强,优化仍具有价值。3.提出了一种记录Xen虚拟机操作系统系统调用日志的原型。原型让客户操作系统以非特权模式运行在虚拟机监控器Xen上,在Xen中增加了重定向模块和日志记录模块,当一个应用程序调用系统调用时,它从最低特权级被重定向到处于最高特权级的虚拟机监控器Xen,完成日志记录后,返回到处于较高特权级的客户操作系统以完成系统调用;与传统的记录系统调用日志的方法相比,原型使攻击者毁坏或篡改这些日志更加困难。4.提出了一个基于Xen的入侵检测系统原型。SNARE是Linux操作系统的一个著名的入侵检测系统,然而,它也是易受攻击的。一个新的方法被用来保护它免受攻击,运用虚拟机监控器的功能,SNARE被移植到运行在虚拟机监控器Xen上的两个虚拟机中,SNARE的两个主要部分(内核补丁和审计后台进程)被分隔而分别放入两个被Xen强隔离的虚拟机。Xen提供了两个虚拟机间共享内存的机制,运用这一机制,运行在一个虚拟机上的内核补丁记录并转移审计日志到运行在另一个虚拟机上的审计后台进程。与传统的SNARE相比,新方法使攻击者毁坏或篡改这些日志更加困难。5.针对一类流行的IP网络应用,提出了一个性能优化的虚拟机网络原型。多个虚拟机运行在虚拟机监控器Xen上,Xen创建和管理这些虚拟机。优化原型的核心是一个新的虚拟网卡,所有的虚拟机通过它被互连成一个网络,用于虚拟机间的通信。与Xen的标准相应模型相比,实验和分析表明该原型改善了虚拟机间的通信性能,减少了约42%的用户请求响应时间。6.针对一个特定的应用场景(制造业产业链上企业的协同商务),提出了基于Xen虚拟机的三层协同商务服务部署体系结构。该体系结构能够支持制造业产业链上的多个企业组成一个虚拟企业,共享数据库,方便、灵活、安全地实现虚拟企业内的成员企业间的商务协同。应用服务器的Xen虚拟机部署方式不仅明显降低了服务部署的TCO成本,而且也方便了应用服务的部署。