论文部分内容阅读
核学习方法是机器学习研究领域的重要研究分支,已经有大量理论和实际应用研究的成果,广泛用于图像与信号处理、数据挖掘等研究领域。利用核学习方法在一定程度上解决了实际应用中的非线性问题,大大提高了实际系统的识别率性能、预测精度等性能指标。然而,核学习方法仍然面临着核函数及其参数的选择问题。本论文旨在通过基于核自适应学习典型算法及其在图像分类等领域应用研究,找到解决核学习面临的核选择问题的研究思路。针对核主成分分析算法面临的训练样本数量及核函数参数选择不当造成的计算时间和存储空间大量消耗的问题,提出了基于1类支持向量理论的稀疏核主成分分析算法,在此基础上,引入并扩展数据依赖核函数,提出了稀疏数据依赖核主成分分析算法。首先,通过求解最优方程找到能够代表原始样本空间的少量典型样本,这些样本作为计算核数据矩阵,节省了核矩阵计算时间和存储空间成本;其次,采用核优化方法使核结构根据输入样本数据分布自适应调整,在有限的训练样本集上最大限度提高算法性能。针对基于局部保持映射的流形学习算法在非线性特征提取上存在的识别率性能较低的问题,提出了基于核自适应流形学习算法。首先,将传统无监督的局部保持映射算法扩展到监督学习模式,利用核方法对其进行了扩展;然后,利用核自适应优化理论解决监督核流形学习的核函数及参数选择问题,有效提升算法在特征提取及分类上的性能。针对传统核判别分析存在的参数选择不当造成识别率性能较低的问题,首先在研究线性无参数判别分析器的基础上,提出了无参数核判别分析算法,该方法有效解决了传统核判别分析参数不当而影响分类器性能的问题。针对核函数及参数选择问题,提出了核结构自适应判别分析算法并进行了仿真验证。针对光影、姿态等在实际应用中引起的识别率下降的问题,结合Gabor小波分析,对数据进行预处理,进一步提高分类的识别率性能。研究表明,核函数及参数直接影响非线性特征空间内数据分布结构,恰当的核函数及参数选择可以提高核学习器性能。研究核函数及参数自适应学习对于解决目前核学习方法广泛面临的核选择问题具有重要理论研究意义,对于提高核学习器的应用系统性能具有重要实际意义。