随着互联网技术的飞速发展和软件商业模式的改变,使得软件的设计、开发、交付方式发生了改变。当前,可靠的带宽以及面向服务的体系结构的出现使得软件作为服务交付给客户的的模式即SaaS(软件即服务)模式成为主流。客户不用自己花大量人力物力开发软件,而只需要向软件服务提供商租用定制软件服务既可以满足需求。所以这种方式越来越受到欢迎。然而随着租户数量的不断增加,导致对服务器的请求数和负载量陡然增加,这对软件服务提供商的服务器架构要求也越来越高。如何在大量用户并发访问的时候保证整个架构的稳定和性能以及较小的响应时延,提供高质量、不间断的软件服务成为软件服务提供商必须解决的问题。显然单台服务架构在可靠性,性能上都不能满足需求。而集群技术近年来广泛得到使用,有着很好的性能,可靠性,可伸缩性。本文在对LVS (Linux虚拟服务器)集群技术的研究基础上,提出一套高性能SaaS应用服务器架构方案,然后加以实现,并通过测试验证架构具有很好的性能,可靠性和可伸缩性。其次分析传统负载均衡调度算法的不足,提出基于多租户SaaS模式环境下的改进并通过仿真测试验证,最后对缓存算法进行分析提出基于SaaS的缓存算法改进,并进行测试验证其更优。