随着神经网络算法的不断发展和突破,神经网络算法越来越广泛的被应用在图像识别,自动驾驶,语音识别等诸多领域。卷积神经网络是从人工神经网络中派生出来的一种神经网络,它非常适合于图像的平移,比例的缩放等形式的图像变化操作。一方面,在卷积神经网络前向推理计算过程中,存在着复杂计算和高带宽访存的问题,使用通用处理器平台实现深层卷积神经网络前向推理计算过程的方法,无法保证提供足够的计算能力。另一方面,尽管使用图形处理器平台实现深层卷积神经网络前向推理计算过程的方法,可以解决深层卷积神经网络前向推理计算过程中,高带宽访存和复杂计算的问题。但使用图形处理器平台无法满足移动设备等低能耗需求场景的要求。因此,对于深层卷积神经网络前向推理计算的实现需要一种专用的硬件加速系统,既能提供足够的计算能力,又能满足低功耗的需求。FPGA作为一种可编程的逻辑器件,具有丰富的计算资源,灵活的重配置特性,相比专用芯片开发而言开发周期较短等优点,十分适合用来开发和验证,针对卷积神经网络设计的特定硬件架构。本文首先分析卷积神经网络推理计算的过程,分别针对卷积神经网络中的卷积运算层,池化运算层,全连接运算层进行并行计算特性分析,探究各运算层中所具有的并行计算结构。然后,以对卷积神经网络计算并行性分析的结果为理论基础,分别针对卷积运算层,池化运算层和全连接运算层提出了一种新的计算算法,并将其分别与传统的卷积运算算法,池化运算算法,全连接运算算法进行理论分析对比。之后,根据本文针对卷积运算层,池化运算层和全连接运算层提出的计算算法,设计了卷积运算模块电路结构和池化运算模块电路结构,提出了一种实现全连接运算层转化为卷积运算层,复用卷积运算模块电路结构的方法。最后,实验结果表明本文设计的卷积神经网络加速系统实现的最高时钟频率为114.94MHz,功耗为1.873W,数值表示方式为十六位定点补码。本文设计的卷积神经网络硬件加速系统执行VGG16卷积神经网络时能提供31.14GOPS的平均动态算力。在本文设计的加速系统上执行一次VGG16卷积神经网络模型前向推理计算的时间为0.49768秒,相比英伟达的特斯拉K40M型号的图形处理器在速度上慢了22倍,但在能耗上少了5.58倍。在本文设计的加速系统上执行一次AlexNet卷积神经网络模型前向推理计算的时间为0.06915秒,相比英伟达的特斯拉K40M型号的图形状处理器在速度上慢了4倍,但在能耗上少了30倍。