为了延缓摩尔定律的终结，人们开始从半导体技术以外的方向来提升芯片的性能。在这些新方向中，堆叠技术和异构众核加速技术已经逐渐被认可，并得到了广泛的应用。堆叠异构系统如今已成为数据中心重要的硬件基础，随着云计算的不断发展和广泛应用，堆叠异构系统开始为云计算提供强大的计算加速能力。
　　然而，云计算的软硬件资源以服务的形式同时提供给大量租户，而多租户之间完全隔离。用户难以从纯软件角度在云环境中针对硬件特征进行性能优化。因此，应用透明的性能优化策略显得尤为重要。
　　本文针对堆叠异构系统中的内存超额配置造成的性能骤降问题、多任务抢占的上下文切换高开销问题和堆叠互连网络结构的负载不均衡问题，提出了一系列应用透明的策略，在不修改应用程序代码的前提下，高效地优化应用程序的性能。本文的主要研究成果及创新点如下：
　　（1）提出了一种内存超额配置管理框架
　　如今云服务提供商往往将超出其硬件资源的服务提供给用户，以提高资源利用率。但是，对于一些对资源需求较高的用户（如深度学习训练），很容易出现内存紧缺的问题。当代GPU已经能够支持内存超额配置，但是我们实验发现在内存超额配置的情况下，应用程序遭受了严重的性能损失，亟需一种应用透明策略来应对。本文研究了多种应用程序的访存特性，为不同的内存超额配置开销提出了主动数据页逐出技术、内存感知的并行度管理策略和内存容量压缩策略。本文提出了一种内存超额配置管理框架，在线判断应用程序的类别，并选择相应的策略组合来实现内存超额配置下的性能提升。实验表明，本文的内存超额配置管理框架能够大幅度恢复由于内存超额配置导致的性能损失。
　　（2）提出了一种动态采用检查点备份技术的GPU主动抢占策略
　　多任务处理机制已经在堆叠异构系统中广泛应用，而抢占机制则是多任务处理中必不可少的一环。抢占机制能够满足不同应用程序对于服务质量的要求，同时也为多任务切换提供了更多选择。然而，GPU由于其单指令多线程的特性，其上下文大小相比于CPU的上下文大小显著增加，上下文切换开销也相应增大。本文为解决这一问题，观察了GPU内核函数的启动过程，动态采用检查点备份的主动抢占机制来降低上下文切换的开销。实验表明，本文的主动抢占机制可以将抢占延迟从平均8.9μs降低到平均3.6μs，应用程序也因此更容易满足服务质量的要求。
　　（3）提出了一种动态延迟感知的2.5维堆叠片上网络负载均衡策略
　　2.5维堆叠片上网络是一种面向硅中介层堆叠的新型结构，利用硅中介层上的大量连线资源，新增加一层网络结构分担网络流量。但是，当前的设计将上层网络用于计算核心节点之间的协议通信，而下层网络用于访存通信。我们对于PARSEC测试集的测试发现，上下层网络会出现严重的负载不均衡现象，并且路径拥塞情况有助于判断网络拥塞与否。因此，本文提出了一种延迟感知的2.5维堆叠片上网络负载均衡策略，通过延迟感知来判断拥塞路径，并为报文的路径做出路由选择。实验表明，本文提出的负载均衡策略相比于基准方法有45%的性能提升。
　　综上所述，本文面向堆叠异构系统，紧紧围绕“应用透明”的需求，针对内存超额配置、多任务切换管理和网络负载不均衡问题，研究了产生应用程序性能损失的原因、应用程序的特征和硬件特性，分别提出了有效解决方案，并都取得了系统性能的提升。因此，本文的成果在理论上可以为软硬件设计提供了指导，同时具有重要的工程价值。