近年来随着数字技术的发展以及有效数据的不断增加,人工智能中出现了深度学习这一新研究方法,该方法在解决复杂学习的问题上充分体现了其能力和有效性。特别是卷积神经网络(Convolutional Neural Networks,CNN)的应用,令深度学习在图像检测和目标识别中大放异彩。但是,深度逐渐增加的神经网络需要大量的CPU运算和内存带宽,这让常规的CPU无法达到所需要的性能水平。因此,部分厂商已经使用诸如专用集成电路(Application Specific Integrated Circuit,ASIC),现场可编程门阵列(Field Programmable Gate Array,FPGA)和图形处理单元(Graphical Processing Unit,GPU)等硬件加速器来提高CNN的吞吐量。在三者中,由于FPGA具有最大化并行性和能效的特点,在低功耗嵌入式领域有着广泛的应用前景。本文基于Zynq平台的开发板Zedboard,实现了一种能够完整对前向推断过程进行加速的硬件加速模型。论文首先对卷积神经网络的每一层结构进行了分析,重点研究了卷积层中的四级并行性,其次对经典网络结构Le Net-5进行了分析并在软件层面使用了一种基于通道剪枝的优化方法对Le Net-5网络进行压缩以便在开发板中高效运行。然后考虑到FPGA的硬件特点,在硬件层面上使用了16位定点对参数进行存储和运算,同时根据该网络设计优化了每一层的硬件框架。分别在计算方式上使用流水线,数据传输上使用乒乓缓存,数据存储上使用数组分割,这三种优化技术的使用让每一层都具有了不同程度的并行性,提高了加速器的整体运算效率。最后本文使用了10000张MNIST以及Fashion-MNIST样本对加速器进行了准确度、速度、功耗三个方面的测试。结果表明在准确度近乎相同的情况下,FPGA相较于英特尔的i5-1035G1速度提升了1.79倍,相较于ARM CPU提升了9.96倍;功耗方面,选取能效比(GOPs/W)作为参考指标,FPGA是ARM CPU的6.53倍,i5-CPU的42.5倍,GTX1080GPU的2.46倍。实验验证了本文设计的FPGA加速器具有优秀的能效比和较短的开发时间,在低功耗领域其具有一定的发展前景。