随着人工智能技术的发展,深度神经网络得到了广泛的关注。多层超限学习机作为一种深度神经网络,以其快速的计算速度和良好的特征提取能力受到关注。多层超限学习机是一种针对广义多隐藏层前馈神经网络的新兴学习算法,其训练架构在结构上分为两个单独的阶段:无监督分层特征表示和监督特征分类。但是,由于其手工设计的网络结构,研究人员需要花费大量精力来调整结构,这是一个容易出错且费时的过程。粒子群优化算法以其搜索速度快,运行效率高而闻名,且其基于“种群”的概念,使其易于存储多种网络结构。因此本文提出了基于粒子群优化算法的多层超限学习机结构搜索方法,以搜寻收敛精度高且结构紧凑的多层超限学习机。并在前面工作基础上,设计并实现了基于粒子群优化的多层超限学习机系统,进一步对网络结构进行优化。本文的主要工作如下:(1)为搜寻收敛精度高且结构相对紧凑的多层超限学习机,提出一种基于多种群粒子群优化的多层超限学习机结构搜索算法。该算法以标准粒子群优化算法为基础,以最小化错误率为目标,以结构最小化原则为辅,搜寻最优网络结构。该算法的网络结构通过多种群方法来表示。由于不同隐藏层的网络结构存储在不同子种群中,且在优化过程中是彼此独立,相互之间无法交换信息。所以,提出了一种改进的粒子群优化算法,使具有不同隐藏层的神经网络可以相互学习。该方法分为群内学习和群间学习。群内学习通过标准多种群粒子群优化算法直接优化;群间学习则是先通过填充和截断操作对齐向量再进行优化。同时,为确保网络紧凑性,提出结构最小化原则,进一步优化网络结构,使其更加紧凑。最后,在多个单分类和多分类数据集上的实验显示,相比于50次随机生成的多层超限学习结构中的最优网络结构,该方法获得的网络结构收敛精度更高且结构相对紧凑。(2)为了平衡收敛精度和紧凑性之间的关系,进一步提高网络紧凑性,提出了一种基于多目标粒子群优化的多层超限学习机结构搜索算法。该算法以多目标粒子群优化算法为基础,同时以最小化错误率和网络节点总数为目标,搜寻最优网络结构。该算法的网络通过一个二维矩阵来表示。根据在优化神经网络过程中产生的无意义结构,提出了Z-结构重新生成方法。该方法在确保结构有意义的同时,提高了粒子群优化算法跳出局部最优的能力。由于存档中存在一些错误率过高,节点数过低的解,影响着算法的搜索方向,因此提出存档二次优化方法,定位了错误率过高的解,并进行筛选,使得算法可以向精度更高更紧凑的结构优化,提高了算法的收敛速度。在多个单分类和多分类数据集上的实验显示,该方法能够获得分类准确率高且结构比基于多种群粒子群优化的多层超限学习机结构搜索算法更加紧凑的神经网络。(3)设计并实现了基于粒子群优化的多层超限学习机系统。该系统集成了上述两种算法,通过设计算法运行模块和网络设计模块,实现算法的运行、保存与结构的优化、分析,并通过实际测试验证了算法的可行性。