云计算凭借其强大的资源集成和计算能力得到了广泛的应用。在当前形势下,云计算环境的关键技术研究,包括服务质量(QoS)保障、安全可靠研究、系统优化管理等,对我国信息技术的发展和进一步推广应用具有重要的意义。如何有效评估云系统的服务性能、安全性、可靠性,如何建立重要系统参数之间的关联关系为优化系统资源调度提供依据,以及如何合理运用相关的关键理论和技术以优化云资源管理并提升云系统性能是推动云计算持续健康发展需要研究的问题。目前,数据存储、地图导航、科学计算等云服务已较为普及,在带来便利的同时,大量公司数据、应用服务、用户隐私等上传到云上也带来了严峻的安全问题。现有研究对于如何评估云系统安全性,如何评估安全因素对服务质量产生的影响,如何合理的配置资源以抵御安全因素带来的影响从而确保服务质量等问题的研究还相对不足,需要进一步深入。其次,移动云计算这一新兴云计算技术,在移动设备和移动应用请求爆发式增长的当下,得到了长足发展。但其应用环境多样性以及系统结构的复杂性,也带来了诸如服务性能下降、不稳定等服务质量问题,以及组件故障、网络延迟等可靠性问题。现在,基于移动云计算环境的性能、可靠性评估方面的研究还相对缺乏。因此,为确保提供稳定可靠高性能的服务,需要针对移动云计算环境的特点进行建模,以准确的评估服务质量并建立其与可靠性因素之间的关系,最终为优化资源调度和系统参数配置提供依据。此外,在可靠性研究领域,云环境的复杂性以及云实验平台的缺乏使得故障数据的获取以及评估方法在真实环境中的验证变得越来越困难且成本高昂。这一情况凸显了建立云环境下可靠性仿真实验平台的必要性和紧迫性。最后,为支持云环境下QoS保障、安全可靠等研究的开展、验证和应用,系统资源信息与运行状况数据的获取是必不可少的。但是,现有的云资源监控系统,存在因主控节点功能太过集中而导致某些时刻网络流量过大,系统扩展性差,和无法及时应对节点失效等问题。另外,云系统存在的海量资源,以及资源本身具有的多样性、复杂性,这也增加了系统资源统一管理的难度。因此,需要在云监控系统、云资源统一标识、新资源的动态加入管理等方面进行进一步的研究。本论文围绕以上问题进行了深入研究,论文的主要研究工作及创新性成果包括:1)针对云环境缺乏安全性评估这一问题,提出了一种关联分析建模方法,建立了云环境下的安全性-性能(Security-Performance,S-P)关联模型。首先,针对云系统中最重要的组成部分,虚拟机,建立了评估其安全性的模型,该模型充分反映了安全机制和恶意攻击两个安全因素对虚拟机的影响,随后基于虚拟机与云系统之间的关系,提出了评估云系统安全性的指标。其次,提出了一种分层建模方法来建立S-P关联模型。排队论被用于云计算系统的性能建模,然后基于贝叶斯理论和相关性分析建立了安全性和性能之间的关联关系,并提出了评估复杂S-P相关性的新指标。实验结果证明了理论模型的正确性,并揭示了安全因素引起的性能动态变化规律。2)针对新兴移动云计算系统缺乏合适的性能与可靠性评估方法的问题,提出了一种基于移动云计算系统(Mobilet Cloud System,MCS)的性能-可靠性(Performance-Reliability,P-R)关联分析建模方法,并进一步在CloudSim平台上进行了可靠性因素的仿真设计实现,搭建了云环境下可靠性仿真平台。首先,通过对MCS系统结构的分析和理解,提出了基于多队列模型的MCS服务性能建模评估方法。其次,选取了MCS中典型的故障因素,并对其进行了可靠性建模。随后,基于贝叶斯理论和相关性分析建立了可靠性与性能之间的关联关系,并提出了评估复杂P-R相关性的新指标。实验结果证明了所提出的P-R相关建模方法的正确性,并揭示了可靠性因素作用下不同系统参数对MCS服务性能的影响。最后,基于可靠性建模理论,在CloudSim平台中设计实现了可靠性仿真模块,为进一步研究云环境中的可靠性因素提供了一个通用的仿真平台。3)针对云环境中监控系统的性能提升,以及资源管理的优化问题,提出了一种基于仿生自主神经系统(Bionic Autonomic Nervous System,BANS)、Ontology、多值决策图的新型云资源监控系统。首先,仿生概念被用于新型云资源监控系统的设计。设计中引入了多级存储、分批上报、主动发现以及定期轮询等策略和机制,降低了系统网络通讯流量,并使系统获得了自组织自修复的能力。其次,运用Ontology技术对系统各个资源进行描述,并引入多值决策图技术(Multivariate Decision Diagram,MDD)。Ontology与MDD的结合应用,赋予了系统资源快速语义查询的特性以及复杂系统故障自检测自诊断的能力,极大的简化了大规模系统的监控和管理工作,实现了系统的智能诊断功能。