BP学习算法作为一种经典的神经网络,存在着训练时间较长、过度拟合和极易陷入局部最优等问题。为了解决这些问题,2004年Huang提出了极限学习机(Extreme Learning Machine,ELM)算法,ELM算法是从单隐含层前馈神经网络(SLFNs)发展而来的,具有结构简单,寻优能力好,训练速度快等优点,逐渐成为机器学习的一个重要分支。随后Liang提出了在线序列极限学习机(Online sequential Extreme Learning Machine,OS-ELM),该算法解决了传统ELM新旧数据一起训练时,花费时间过长的问题。本文对OS-ELM算法各方面存在的一些问题,提出了基于不同方向的优化策略。完成的研究工作如下:首先,本文引入了核函数的思想用于OS-ELM,将组合改进高斯与多项式核函数作为OS-ELM的核函数。并从核参数优化的角度出发,利用改进果蝇优化算法(the Fruit Fly Optimization Algorithm,FOA)对该组合核参数寻优,提出了基于改进果蝇优化方法的组合核OS-ELM(FOS-HKELM)算法。其次,为了解决OS-ELM输出不稳定的问题,随机采取多个隐层节点和激活函数均相同的独立OS-ELM进行训练,将投票中得票最多的类标签为其测试结果,用来提高学习效率。并且在训练中使用分类置信权重来区分各OS-ELM在投票结果中的占比程度,采取自适应选择性集合框架平衡精度和算法的速度,而权重值的优化则采用选择性集成萤火虫优化方法,进而提出了一种基于选择性集成萤火虫优化方法的投票制OS-ELM(FVOS-ELM)算法。最后,在UCI数据集上的实验结果表明OS-ELM算法核参数优化的选择可以通过改进果蝇优化方法实现,减少参数优化时间的同时提高了收敛速度和分类精度。而FVOS-ELM算法则提高了在线学习的稳定性和分类准确率,丰富了在线极限学习机的理论研究,并且在以后的实际应用中也拥有一定的参考价值。