论文部分内容阅读
分类器设计是模式识别的主要研究方向之一。一个有效的分类器设计方法可以使识别过程事半功倍。核方法是一种有效的分类方法。但是,传统的核方法是基于单个核的,而单个核函数无法有效描述模式的特征,这就引出了基于多个核的高性能核分类方法研究。多核分类器学习方法期望通过融合多个核函数来尽可能详尽地描述模式的多种特征,在处理多源异构数据集时显得既稳定又灵活。由于在融合多个核函数的过程中存在大量的计算,现有的多核分类器学习算法存在计算复杂度高和占用内存空间大等问题。本文将Nystrom逼近和随机投影的思想应用于多核分类器学习算法之中,力图在保证分类正确率不变差的前提下降低空间和时间复杂度,设计出高性能的多核学习算法。本文的主要工作如下：(1)提出了一种新的融合多个核矩阵的多核学习算法。该算法从整体样本集中随机选取一部分样本,然后使用Nystrom逼近算法求出原始核矩阵的近似矩阵,根据每个核矩阵的近似误差确定多个核矩阵的组合系数,最终将这些近似核矩阵组合起来。Nystrom逼近算法一方面降低了核矩阵的计算复杂度,另一方面也给出了一种直观的多个核矩阵组合方法。我们将这种算法及其多核分类器应用于人造数据和机器学习数据库的判别分析之中,取得了较为理想的实验效果。(2)提出了一种基于随机投影的显式核映射多核学习算法。随机投影可以在降低样本维数的同时保持不同类别在特征空间的近似可分性。正是利用这一特性,我们将随机投影理论与现有的多核学习算法MutliK-MHKS相结合,在构造核矩阵的过程中,利用随机选择的部分样本集构造显式核映射。由于随机投影后的样本维数降低,计算复杂度也随之下降,同时随机投影的近似可分性保证了多核分类器的分类正确率依然得到明显提高。本文提出的两种多核分类器学习算法在一定程度上缓解了分类正确率与计算复杂度之间的矛盾。与传统的多核分类器学习算法相比,所设计的分类器在降低时间和空间复杂度的同时依然保持了较高的分类正确率。理论分析和仿真实验都证明了本文所设计的多核分类器学习算法的优越性。