近年来,大数据处理系统发展迅速,特别是基于MapReduce及其改进的编程模式有效地降低了用户编写分布式程序的难度,因而被学术和工业界广泛使用。与此同时,深度神经网络（Deep Neural Networks,DNN）技术由于其出色的特征提取能力,在视频图像数据智能分析,语音识别等领域得到了广泛的应用。一般情况下,DNN模型数据参数众多,执行一次推理的计算量较大,仅使用CPU耗费时间较长,通常需要借助图形处理单元（Graphics Processing Unit,GPU）的高并发、高速浮点计算的能力来加速推理。对于大规模数据的DNN推理,利用大数据处理系统的GPU扩展版本进行处理是一个合理的解决方案。基于大数据处理系统的任务并行模式,调度多个推理任务并行使用GPU资源能够进一步提高系统的推理性能。但这会不可避免地加载多个只读的DNN模型到显存,造成巨大的显存负担。当显存成为瓶颈时,每一个GPU上能够运行的DNN推理任务数量会受到限制,GPU的计算资源无法被充分利用,系统的推理性能也因此受到限制。针对显存开销问题,在单机环境下,本文提出了一个面向单GPU卡的模型共享方法,该方法使得大数据处理系统同一个工作进程中的线程之间能够共享GPU显存中的模型数据。单机环境下的模型共享直接在代码中指定了 GPU设备号,在大数据处理系统的任务并行模式下,该方法无法使用代码中未指定的GPU设备。对于分布式多GPU卡环境,代码中指定设备号的方式会导致GPU资源的闲置。为了支持分布式多GPU卡环境下的模型共享,本文设计了一个GPU分配器,通过动态请求与分配GPU设备号的方式使得模型共享技术可以作用于分布式集群中的每一块GPU卡。本文基于大数据处理系统Spark软件平台与GPU硬件平台,实现了一个对交通视频执行DNN推理的分布式原型系统,该原型系统集成了上述两种优化技术。本文主要贡献包括以下三个方面:·提出了一种面向单GPU卡的模型共享方法。该方法使得大数据处理系统同一个工作进程中的线程之间能够共享GPU显存中的模型数据,有效地降低DNN推理应用的显存开销。·设计了一种支持多GPU卡模型共享的GPU分配器。该分配器能够收集并维护集群中每一个节点的GPU资源信息,对节点内的进程平均分配GPU资源,使得模型共享技术可以作用于分布式集群中的每一块GPU卡。·实现了一个对交通视频执行DNN推理的分布式原型系统。该原型系统集成了面向单个GPU卡的模型共享技术和支持多个GPU卡模型共享的GPU分配器,基于大数据处理系统Spark软件平台、GPU硬件平台以及DNN推理技术对交通视频数据中的车辆进行检测与追踪。综上所述,本文重点研究了基于大数据处理系统执行DNN推理时显存开销过大的问题。本文提出了面向单GPU卡的模型共享方法,设计了一个支持多GPU卡模型共享的GPU分配器。基于上述两种优化技术,本文实现了一个对交通视频执行DNN推理的分布式原型系统。本文的工作是基于对已有相关工作调查和分析的基础上完成的。理论分析和实验结果表明了模型共享技术能够有效地降低GPU卡显存开销,提升原型系统的性能,系统吞吐量可提升136%。