论文部分内容阅读
近年来,随着计算机、多媒体信息等技术的发展,机器学习领域也得到迅速的发展。极限学习机(ELM)作为机器学习的研究热点之一,以其简洁的理论与易于实施的特点吸引众多研究人员的关注。ELM具有高效和良好的泛化能力,在分类和回归问题中得到了广泛应用。然而在处理具体问题时仍然存在许多不足,例如,面对数据维数过高、带有噪音以及离群点等问题,ELM的分类准确率会有所降低;在有监督学习中,由于标记数据样本有限,导致ELM出现学习不充分的问题。本文针对上述两个问题对ELM进行了研究,主要研究成果如下:(1)为了解决人脸图像数据包含冗余属性及噪声对ELM算法的影响,提出一种基于流形学习的ELM。在局部保持投影算法(locality preserving projections,LPP)中引入数据的判别信息,得到一种局部保持判别投影算法(locality preserving discriminant projections,LPDP)。LPDP将数据的类内判别信息和类间判别信息引入到LPP模型中,对LPP模型进行优化。LPDP在继承LPP优点的同时,考虑到数据的判别信息,获得更好的降维效果,从而提高ELM的泛化能力。(2)针对现有ELM及其改进算法不能较好的利用数据蕴含的判别信息这一问题,提出一种基于判别信息的正则极限学习机(discriminative information regularized extreme learning machine,IELM)。IELM引入同类离散度和异类离散度的概念,体现在输入空间数据的判别信息上。通过最大化异类离散度和最小化同类离散度,优化ELM的输出权值,从而在一定程度上提高ELM的分类性能。实验结果表明,这两种优化算法显著提高了极限学习机的分类效果,与其它算法相比,具有更好的分类准确率和泛化能力。