由于云计算简单方便且成本低廉,海量用户推动了现代云计算平台的蓬勃发展。作为一种新的计算和服务模式,云计算通过将大量高性能物理服务器和网络设备等资源抽象为一个巨大的共享资源池,向用户提供无处不在的、方便的、按需的服务。近年来,用户数量的增长造成更多的资源需求,而资源池容量会受到基础设施（如服务器、交换机、机柜）的尺寸、价格、性能以及能源开销的限制,云端资源愈发紧张;因此云服务的性能保障和优化愈发重要。资源受限云场景的性能保障需满足两方面:分配给用户足够的计算资源保障应用正常运行;同时要合理调配网络资源以保证网络服务质量。本文考虑在计算资源（如物理服务器CPU资源）和网络资源（如链路带宽资源）受限的前提下,全面优化资源受限云场景的性能。具体来说,本文首先通过虚拟机放置以保障云服务的健壮性;其次,为了解网络中流量模式并保障网络性能,本文结合流测量和路由调度以提升网络吞吐量;最后,对于分布式模型训练应用,本文通过网内聚合和路由来加速其梯度传输。本文的主要贡献如下:1.在云中,为防范恶意租户攻击和网络功能服务故障等威胁,传统部署辅助系统的方案增加云架构复杂度同时需要额外成本。与传统方法不同,本文提出了健壮性保障的虚拟机放置方法,以减轻异常情況造成的负面影响,提高系统健壮性。本文引入了健壮性约束,提出了面向多租户的健壮性保障虚拟机放置问题,并给出具有有界近似比的算法。在物理测试平台和大规模仿真测试中实现了本文提出的算法,实验结果表明,本文提出的算法与其他替代方案相比,在取得相似负载均衡性能的前提下,将网络功能服务节点故障对租户的影响范围减少了55%,将恶意租户对云网络的影响范围减少了 44%。2.为提高网络性能并保障多类网络应用（如流量工程和攻击检测）,细粒度流测量至关重要。由于交换机有限的计算和存储能力,sketch已被广泛应用于高效的流测量。同时,对于不同的测量需求（如重击者检测和流量大小分布估计）,需要多个独立的sketch。为了降低流测量给交换机造成的冗余开销,在每个交换机上,指定特定的sketch测量经过该交换机的流量。对单个交换机而言,其测量开销由经过该交换机的流量和每包测量开销决定。如果在每台交换机上进行流测量而不考虑网络路由,由于流量动态性会导致某些交换机上流量突然增大,进而造成测量开销超过计算能力的不良后果。本文研究了结合流测量和路由的联合优化问题,分别提出了面向离线场景和在线场景的高效算法,分析了所提出算法的近似比和竞争比,如在线算法的竞争比为[（1-ε）,（log N+log（1/ε））],其中ε是介于0和1之间的值,N由网络内交换机和链路数量决定。此外,本文还设计了基于排队论的自适应采样机制用于突发流量场景下的高保真流测量。大规模仿真结果表明,本文提出的算法能有效提高网络资源利用率。例如,与已有算法相比,在线算法可以将网络吞吐量提高30%。3.随着分布式模型训练应用的广泛部署,网络资源（如带宽）越来越稀缺,已有工作试图通过数据压缩或流量调度来缓解带宽压力。但是,由于已有工作仍在终端主机聚合梯度,依然存在网络带宽瓶颈。网内聚合作为一种新方法,通过网络设备（如可编程交换机）在网络内部进行梯度聚合以缓解网络资源紧张。然而,目前网内聚合方案忽略了梯度路由及聚合位置选择的重要性,导致分布式模型训练的梯度通信效率较差。为缓解网络资源瓶颈并加速分布式模型训练,本文研究了面向分布式模型训练的网内聚合与路由问题。本文将该问题形式化为非线性混合整数规划,并证明其NP难。由于网络中流量的动态性,本文采用了两阶段方法:首先将训练模型拆分到多个参数服务器中,然后决定网内聚合和路由方案。针对上述两阶段,本文分别提出了基于拉格朗日对偶和基于随机舍入的算法。在物理测试平台和软件测试平台上进行了对比实验,实验结果表明,本文提出的算法可以降低梯度通信对网络带宽资源的损耗,加速模型收敛。例如,与现有算法相比,本文提出的算法可以降低模型收敛过程中的梯度通信时间约81%。