得益于当前软硬件技术和互联网的飞速发展,云计算已经成为最具影响力的信息基础设施,在社会生产生活的各个领域都有着广泛的应用。通过将各种硬件资源整合和虚拟化,云计算为用户及其应用提供了一个灵活、高效的虚拟化存储和计算环境。然而,云计算中的虚拟化环境在给用户带来便捷服务的同时,也面临着来自不同层面的安全威胁。与此同时,日益丰富的攻击手段和虚拟化导致的攻击面拓宽,给虚拟化环境的安全保护带来了新的挑战。如何为云计算构建安全、可信的虚拟化环境,缓解用户对云计算安全问题的担忧,已经成为云计算技术进一步发展中亟待解决的问题。本文以云计算中虚拟化环境为研究对象,在分析其面临的安全风险和用户安全需求的基础上,提出了将可信计算和虚拟化技术在云计算中相结合,从而为用户构建安全可信的虚拟化环境。针对现有研究中存在的可信验证机制灵活性差、效率低下,虚拟机安全监控手段限制用户的安全需求以及虚拟机安全监控不可靠等问题,本文分别从虚拟机环境的动态可信验证、用户可控的虚拟机安全监控以及安全监控的可靠性增强三个方面开展研究,主要取得了以下几个方面的研究成果:1.提出一种灵活可靠的虚拟机动态可信验证技术。针对云计算环境中虚拟机所面临的安全威胁,本文从用户对云计算环境中虚拟机的安全性和完整性需求出发,结合虚拟化环境自身特性,提出一种动态的虚拟机可信度量和远程证实方案。该方案采用虚拟机自省技术实现细粒度的域外完整性度量,为云服务提供商满足用户多样化的可信验证需求提供支撑,并根据完整性破坏情况提供有效缓解机制。同时,考虑到传统证实机制应用于云环境的缺陷,本方案还设计了一种基于哈希签名技术的高效可靠的验证机制,有效提升对实际应用中用户虚拟机的保护能力。2.提出一种用户可控的虚拟机安全监控技术。通过分析已有云环境下客户虚拟机保护方案的缺陷,探索现实应用中用户安全需求的多样性,提出一种用户可控的虚拟机安全监控机制。在扩展虚拟机自省技术的基础上,所提出的监控机制能够使虚拟机用户以可靠的方式全面监控远程虚拟机系统的安全状态,进一步提高用户对虚拟机安全的信任程度。通过将虚拟机系统的安全分析和安全监控分离,监控机制赋予用户自主定制个性化安全功能的能力。此外,针对云计算中虚拟化环境的特点,监控机制进一步提供扩展的安全监控功能和用户隐私保护功能,从而实现高效可靠的安全和可信保障能力。3.提出一种虚拟机自省的可靠性增强技术。作为一项安全可靠的虚拟机监控技术,虚拟机自省能够为虚拟化环境的安全和可信防护提供有力的技术支撑。然而,虚拟机自省技术存在语义鸿沟问题,这极大的影响了其在应用中的可靠性。本文首先对解决虚拟机自省技术语义鸿沟问题的典型方案进行研究,分析这些方案在解决云环境中虚拟机安全问题时所存在的缺陷与不足,从而有针对性地提出了一种基于硬件特性的虚拟机自省增强技术。该技术通过虚拟化的硬件支持,动态追踪虚拟机内的行为特征,进一步利用有监督机器学习方法准确识别针对虚拟机自省的规避或者攻击行为,从而避免虚拟机自省中语义解释的错误,有效地增强虚拟机自省技术在支持可信防护中的可靠性。以上研究成果针对云计算中虚拟化环境的安全需求,分别从云服务提供商、虚拟机用户以及安全支撑技术三个不同的维度提出了可信防护方案,为有效应对云计算中的虚拟化环境面临的各类安全威胁提供一套较为完备的保障机制。