数据降维的广义相关分析研究

被引量 : 41次 | 上传用户:eastfoot01
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数据采集和存储技术的飞速发展,高维数据,如航天遥感数据、生物数据、网络数据以及金融市场交易数据等大量涌现,如何将高维数据表示在低维空间中,并由此发现其内在的本质结构是机器学习及模式识别领域的重要研究方向之一,现已引起人们广泛的关注,相应研究方兴未艾,其应用范围涉及图像分析和处理、多媒体处理、医学数据分析、海洋气象预测、计算机视觉信息检索和跨语种文本分类等众多领域。本文从基于相关性的经典降维方法---典型相关分析(Canonical Correlation Analysis, CCA)入手,分析现有基于相关性的各种降维方法的优缺点,并分别针对单视图数据和多视图数据提出了一系列有效的高维数据降维方法。本文工作主要包括四部分:(1)针对全监督的单视图数据设计新的监督型降维方法。用CCA实现全监督的单视图数据的降维时,通常将原始数据作为第一个视图,而把与每个样本对应的类标号编码作为第二个视图。已有研究者证明了采用one-of-C或者one-of-(C-1)编码时,CCA与原数据上直接进行线性判别分析(Linear DiscriminantAnalysis, LDA)等价,但是他们没有给出等价的原因。我们首先分析其原因,然后结合分类器设计,利用样本与其对应类标号相关性最大化来设计两种不同的降维方法。这两种降维方法均利用广义相关分析实现了单视图数据的监督降维,避免了与LDA等价,降低了训练和测试的复杂度,在人工数据集和真实数据集上的实验结果进一步验证了该方法的有效性。(2)仍然针对全监督的单视图数据,进一步结合大间隔学习,提出了一个新的监督型降维方法---大相关分析方法(Large CorrelationAnalysis, LCA)。不同于现有的基于相关分析的降维方法,它们追求最大化所有训练样本的整体相关性,而LCA旨在最大化所有训练样本与其类标号的最小相关性,从而克服了与LDA等价的弊端。LCA的目标函数最终转换为松弛的箱子约束的二次规划问题,它可由Projected Barzilai-Borwein Method (PBB)方法有效求解。在部分UCI数据集和美国国家邮政局(USPS)手写字库上的实验结果验证了LCA方法性能的优越性。(3)对全监督全配对的多视图数据,提出一个新的降维方法。受监督型流形学习方法的启发,利用每个视图数据集的局部结构信息和判别信息,构建相似度矩阵和类信息矩阵,提出监督型局部保持的典型相关分析(Supervised Locality Preserving Canonical Correlation Analysis,SLPCCA),该方法不但突破了CCA处理数据时的线性约束,提高了处理非线性问题的能力,而且克服了局部保持的典型相关分析(Locality Preserving Canonical Correlation Analysis, LPCCA)忽视类信息的问题,提取的特征更有利于分类。在多特征手写体数据库(MFD)和美国国家邮政局手写字库(USPS)上的实验结果验证了该方法的有效性。(4)对半监督半配对的多视图数据,提出一种新的降维方法。虽然半监督半配对的多视图数据在实际应用中大量存在,可是现有相关的降维方法通常仅关注配对信息或者仅关注监督信息,得到半配对的多视图数据降维方法和半监督的多视图数据降维方法,却没有同时关注配对信息和监督信息的降维方法,我们同时关注数据的配对信息、判别信息和结构信息,首先提出一个一般性的半监督半配对多视图数据降维框架,该框架囊括了现有的一些方法。进一步设计一个具体的降维方法---半监督半配对广义相关分析(Semi-supervised and Semi-paired GeneralizedCorrelation Analysis, S2GCA),该方法旨在寻找既能保持配对数据相关性最大,又能使有标号数据的类间分离性最大,同时还可以最大程度地保持数据的整体结构信息的低维特征。在人工数据集和真实数据集上的一系列实验结果均验证了我们所设计的方法的有效性。
其他文献
目的:挖掘环境致癌的中医病因学依据,提出职业环境致癌在中医病因学中的新观点.方法:本文通过对现有环境与肿瘤流行病学现状汇总,以三因学说为切入点,就职业环境致癌中医病因进
在刑事诉讼发展的历程中,就诉讼模式来看,普通法系实行当事人主义,强调诉讼双方的权利地位平等和程序的正当;大陆法系实行职权主义,强调寻求事实的真相并且追究犯罪。两大法系
本文以金属(Cu、Co、Ag)纳米线和聚苯胺(PANI)-金属同轴纳米电缆的制备、表征及性能研究为主要内容,对纳米线和纳米电缆的制备与形成机理进行了研究,通过多种手段研究了金属纳米
采用数值模拟的方法对蒸汽蓄热器蓄能、释能过程进行研究。通过分析蒸汽蓄热器蓄能和释能的热力过程,建立蒸汽蓄热器的数学模型,运用MATLAB软件进行模拟求解,得到了蓄能、释能过
近年来,石油、化工、煤炭、冶金等工业得到迅猛的发展,随着工业生产而产生的各种各样有毒有害气体也迅速增加,造成的气体中毒事故也不断增多,对人民财产安全和生存环境构成很大威
随着国民经济的飞速发展,家庭财富迅速积累,家庭金融资产总量急剧增加。再加上金融市场改革的不断深化和金融市场的逐步完善,可供家庭选择的金融资产的种类不断增多,家庭持有的金
MM是浆细胞的恶性肿瘤。浆细胞是人体获得性免疫系统的重要组成部分;恶性浆细胞的高度异质性导致致命的免疫缺陷和进展性的骨质破坏。随着医学科学的进步,越来越多有价值的干
以都市生活及都市文化形态为主要描写对象的都市诗歌,是新诗发展过程中现代性变迁的一个重要路径。都市生活为现代诗歌拓展了新的发展空间,它为现代诗人们提供了更丰富的生活体
班级是学生学习的主要平台,学生的学习习惯,思想品德等一些良好品质的形成都是在班级氛围的感染下和在班主任老师的引导下逐渐形成的。班主任作为班级的组织者和领导者,是学
装配式建筑符合国家节能、低碳、节约经济的发展要求,是我国建筑的重要发展方向,随着装配式建筑的发展使太阳能在其中的应用技术成为一个研究课题,本文对太阳能在高层装配式建筑