近年来,人工智能在全球迎来了新一轮的研究热潮,在传统的机器学习算法之外,一种名为深度学习的技术被提出,其核心是模仿生物神经系统构建的神经网络,这种层层递进的模型结构由于其出色的特征提取与数据拟合能力,被广泛应用于各种人工智能产品中,如今常见的人脸检测、机器翻译、语音识别等应用都基于深度学习技术实现。深度学习应用的执行阶段包括模型训练和任务推断两个核心环节,模型训练是利用特定数据集修正神经网络参数值从而提升模型泛化能力的过程,具有数据密集和计算密集特性,无法在短时间内完成训练;任务推断是将任务数据输入训练完毕的神经网络逐层计算获得推断结果的过程,其执行效用由准确度和响应时间决定,但难以同时实现高准确度和快速响应。构建面向深度学习应用的执行优化系统面临两大关键问题,如何加速模型训练与如何提升推断效用。本文围绕这两个问题展开研究,具体内容包括:（1）基于模型结构和执行环境感知的训练优化机制,根据神经网络结构和实际运行环境自适应地确定计算集群的任务分配方案以提升分布式训练速度。该机制分为模型信息采集和并行方案决策两个阶段,前者根据本文归纳总结的公式估算神经网络每层计算单元的参数量和中间数据量,后者基于这些信息使用粒子群优化算法分析不同任务分配方案下的训练时间开销并从中选取最优方案。（2）面向异构时间和准确度需求的任务推断优化机制,根据推断任务的需求特性自适应地决策任务的执行位置、计算模型和处理顺序以提升任务推断效用。该机制分为基于加权轮询的任务迁移阶段和面向效用最大化的任务调度阶段,前者基于任务对响应时间的需求和服务器的计算能力与负载情况为任务选择合适的执行位置,后者根据任务的延迟敏感程度与准确度敏感程度为任务确定合适的计算模型和处理顺序,保证及时响应的同时尽可能提升推断结果的准确度。（3）面向深度学习应用的执行优化系统,基于上述理论研究成果设计与开发了实际系统。系统中的训练优化功能模块基于PyTorch深度学习框架实现,推断优化功能模块基于RabbitMQ消息中间件和PyTorch深度学习框架实现。综上,本文针对深度学习应用运行过程中的模型训练加速问题和推断效用优化问题进行了理论研究与系统实现。实验表明,本文所提机制能够有效地减少模型训练的时间开销,提升推断任务的成功率和准确率。