基于预决策的卷积神经网络加速研究

来源 :北京工业大学 | 被引量 : 8次 | 上传用户:h123456p
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络(Convolutional Neural Networks,CNN)目前在计算机视觉领域应用广泛,在图像识别、物体检测以及图像分割等问题上都取得了最优的性能。但是CNN是深度的人工神经网络,其前馈传播需要进行大量的卷积运算,而且其网络层数和隐藏层的网络节点数会随着任务难度的增加而增加。因此,CNN过高的计算复杂度,对其在实时性要求较高的应用场景中的使用产生了限制,如对行人和车辆进行检测的交通监控等问题;对其在计算能力较低的设备上的应用也有很大的限制,如移动设备等。本文主要对CNN在图像识别和物体检测中应用的加速方法展开了系统而深入的研究,主要包括以下内容:1.针对CNN在二元图像分类和特定物体检测问题上的应用,提出了一种基于预决策的卷积神经网络加速方法。该方法充分利用了CNN特征的冗余性和多层特征的判别力,建立了基于CNN的级联分类器,实现加速。在构建级联分类器的过程中,对于每一阶的特征选择,提出了特征点选择模型。特征点选择模型充分考虑了CNN各层特征点的分类能力和计算代价,跨层进行特征点的选择,所选特征点的分类能力和计算代价整体最优。本文分别在CIFAR-10、Pascal VOC2007、INRIA和TRECVID等数据集上对该方法进行了测试。实验表明,对于二元图像分类和特定物体检测问题,该方法在有极小性能损失的情况下,能实现较大的加速。另外,该方法可以与很多之前的CNN加速方法结合起来使用,实现更大的加速。2.对基于预决策的卷积神经网络加速方法进行了系统实现。该系统主要包括:特征点选择模型训练集提取模块、CNN网络结构量化模块、特征点选择模型训练模块、级联分类器建立模块。对于深度较大和比较复杂的CNN模型,本文提出的方法在训练过程中时间和空间复杂度都非常大,该系统使用了一些实现技巧,大大压缩了模型的训练时间和所需内存空间。
其他文献
随着信息技术的发展,企业数据量的快速增长,全球数据量向PB发展,传统的文件系统已不适应这种大数据量的管理。在这种背景下,并随着分布式系统、网格计算等技术的发展云存储系统逐
人脸关键点是指人脸中具有特质特征的区域,比如眼角、嘴角等。人脸的关键点检测不仅对于人脸识别有很大作用,而且可以为表情识别提供基础。人们在日常生活中相互交流,语言的交流
当今时代,信息技术的迅猛发展带来了数据量的飞速增长。这些数据不仅包含数据库中的结构化数据,还含有海量来自于电子邮件、传感器、在线视频等非结构化、互不兼容的、实时的
计算机术前规划是肾脏穿刺手术的重要环节,对肾脏病诊断和介入治疗工作起着重要的指导作用。术前规划的相关技术包括肾脏医学图像的分割、肾脏医学图像的三维重建以及肾脏体
随着Android系统市场份额的不断提高,人们对Android平台应用的隐私泄漏的关注度提高。为了能够防止恶意泄漏用户隐私的程序在市场上传播,本文针对Android平台应用隐私泄漏的
无线网状网络(Wireless Mesh Network,WMN)作为Internet“最后一英里”的接入方案,能够提供一种灵活且低成本的多跳通信。随着近年来智能手持设备的快速发展,各类基于无线网络的
随着信息技术和互联网的发展,人们逐渐从信息匮乏的时代走入了信息爆炸的时代。但是,面对海量的信息,从中找到自己感兴趣的信息是一件非常困难的事情,因此出现了“信息过载”的现
散列函数作为现代密码学的重要研究分支,是实现数据完整性验证、身份鉴别和数字签名的关键。但是随着信息技术的发展和理论研究的深入,传统散列算法暴露出一些缺陷,如执行效
云计算是近年新兴的一种计算模式,这种模式出现不久便迅速成为学术界研究的热点,工业界也推出了各种云产品。在云环境中集约部署软件系统,可以减少硬件设备的投入,在一定程度上节
安全问题自云计算提出以来就一直困扰着云服务的提供者和使用者,随着云计算的流行与普及,越来越多的黑客们更加关注云平台漏洞挖掘与利用。因此关注云计算安全,增加云计算的