人工智能是近年来研究热点,卷积神经网络(CNN)是机器学习算法中解决模式识别问题的强有力的方法之一。同时高速计算设备和高速网络的发展为卷积神经网络的进一步研究和实践应用提供了可能,大数据时代带来的海量数据为卷积神经网络的训练提供了足够的数据来保证算法的精度和预测的准确性。卷积神经网络的训练和预测时长阻碍了算法的进一步发展,算法并行化是提高算法运行效率的一个有效方法。为了在不改变模型框架影响算法精度的前提下,尽可能的提高卷积神经网络的运行速度,本文提出一种新的多层次卷积神经网络的并行算法。本文所做的主要贡献如下:1、利用单指令多数据流(SIMD)实现卷积运算向量化。采用CPU中的SIMD指令实现向量化卷积运算,消除并行计算的同步开销,同时复用寄存器中数据,减少内存读写次数,提升高速缓存(cache)命中率。2、利用多核CPU实现卷积层运算的并行化。采用分块矩阵方法划分输入数据,根据CPU核心数目及cache大小等多个因素划分矩阵分块的大小,并根据多核CPU上计算核心的亲和性分配给不同核心,实现卷积层运算的并行化。3、在Hadoop平台实现CNN的并行。对原始输入数据进行分组,分配给不同数据节点组,实现数据并行;对于每个数据节点组的数据,采用流水线并行;将上述过程采用JNI封装后,移植到Hadoop云平台。采用上述层次并行策略后,实验结果显示取得非常高的加速比。在采用SIMD指令向量化结合寄存器复用,划分数据考虑到Cache容量的并行算法中,实验结果均出现了超线性的加速比。在移植到Hadoop平台时,如果不存在多机通信,且数据可以在内存中容纳时,JNI可以充分发挥C程序的性能,且加速比与原始的C语言程序处于同一个数量级。在尽可能不损失计算效率的同时,向用户提供一个便于使用的接口。