基于样本和特征的迁移学习方法及应用

被引量 : 0次 | 上传用户:adaibaobao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着科技的飞速发展,现实生活中获取的从多个数据源的多种形态的数据成指数级增长。如何对海量的高维、稀疏、含噪声和非独立同分布数据进行快速有效的处理,进而提取出用户所需要的有价值信息,是数学、计算机科学及实际工程应用领域的研究者普遍关心的问题。迁移学习是一种有效的数据处理工具,可以处理复杂海量数据。本文从迁移学习的必要性出发,从理论、方法和应用三个层次上系统研究了迁移学习问题。具体而言,本文的主要贡献如下:1.分析了已有迁移学习方法内在关联,用统一的观点归纳总结了现有的迁移学习方法,为迁移学习方法及应用研究提供了理论支撑。对已有的迁移学习方法进行了细致总结、分类,针对不同学习设置的迁移学习,把多任务学习、自学习、域适应、样本选择偏置及协方差偏移等问题纳入一个整体中;对传统机器学习中的维数约简、半监督学习和主动学习等技术进行深入研究,寻求它们与迁移学习的联系,用已有的机器学习技术指导迁移学习算法设计。2.将半监督学习技术应用到迁移学习领域,建立了基于图模型的迁移学习方法,丰富了基于样本的迁移学习理论及方法。通过构建三部图,将源域数据、目标域数据以及它们之间相互关系统一到了三部图中,通过学习该图的图谱,得到图上所有顶点新的特征表示。用传统的机器学习模型训练新的特征表示下的目标域标签数据,得到分类器,然后预测目标域非标签数据的标签。新的特征表示涵盖了源域数据样本空间、特征空间以及标签空间的信息,源域数据知识迁移到了目标域中,使得传统的学习模型可以有效的解决迁移学习问题。文本数据集上的实验证明了方法的有效性。3.提出了基于稀疏正则化的子空间迁移学习方法,丰富了基于特征的迁移学习理论及方法。首先提出一种基于稀疏约束的非监督最大间隔特征选择方法。该方法将特征选择和k均值聚类统一到一个框架中。在变换矩阵W中加入L2,1范数正则项,有利于特征选择的进行。提出了一个迭代算法解决凸优化问题,确保其收敛到最优值,给出了算法的收敛性分析,实验结果表明了方法的有效性。然后将上述模型进行扩展,提出了一种迁移学习的统一框架,即迁移稀疏子空间学习框架。该框架适用于不同的子空间学习方法,也适用于不同的迁移学习数据分布散度假设,如最大均值差异散度、Bregman散度和KL散度等。将有效的稀疏约束项加入迁移子空间学习问题中,有效减少了时间和空间复杂度,可以避免过拟合问题。针对不同的数据分布散度假设,提出了相应的解决方案,并给出了收敛性分析。文本和图像数据集上的实验结果表明了算法的有效性。4.针对现实应用中出现的高维、稀疏、噪声和非独立同分布数据,本文提出了一种基于图正则和稀疏正则的迁移学习模型。首先针对源域数据,提出了一种基于稀疏约束的鲁棒非负矩阵分解模型,学习到的矩阵富含源域和目标域数据的共有信息;其次将第一步中学到的矩阵作为迁移学习的桥梁,迁移到目标域数据中,针对目标域数据,提出了一种基于图正则和稀疏正则的非负矩阵分解模型,完成对目标域数据的重构,该模型同时将鲁棒损失函数、稀疏约束正则化和数据局部结构特征等因素考虑进目标函数;然后,在重构的稀疏目标域数据上进行特征选择,得到目标域数据新的特征表示;最后给出模型的迭代算法及收敛性分析。文本数据集和图像数据集上的实验验证了模型和算法的有效性。
其他文献
<正> 上海市伊协副主任、九十二岁高龄的何克明,是遐迩驰名的“江南灯王”。他自童年十二岁起,就从事扎灯工艺,至今已整整八十个年头。最近,在上海美术展览馆,举办了“何克明
方言词是丰富普通话词汇的重要来源之一,随着社会的发展,方言词也在不断地发展变化。《现代汉语词典》自1978年第一版出版至今已经走过了三十多年的历程,经历了五次修订。作
<正>奉普慈特慈的真主之名各位朵斯提:赛俩目!伟大清高的真主在《古兰经》第51章第19节中晓谕:"他们的财产中,有乞丐和贫民的权利。"在第25章第67节中晓谕:"他们用钱的时候,
时下,钙剂市场品种繁多,广告宣传铺天盖地,家长不禁有诸多的困惑和茫然:究竟怎样给孩子补钙?补什么钙?补多少才合适?补钙是有原则和方法的。然而,在实际生活中,父母给孩子补
东秦岭钼矿带是世界上重要的钼矿带之一,带内分布着几个超大型钼矿床,南泥湖钼矿床就是其中之一.南泥湖钼矿床含矿裂隙含脉率、含脉密度及含矿裂隙产状研究结果表明:1.钼矿化受裂隙
优素福.哈斯.哈吉甫留下的世界性作品《福乐智慧》是维吾尔族的古典文学的杰出代表作品,也是维吾尔族经济,政治,宗教,文化的榜样。《福乐智慧》不仅是维吾尔族的宝贵遗产,也
通过对现有国内数控机床市场的分析,发现在设计中很少考虑人机工程问题,对于人机系统也缺乏必要的实验和研究。对数控机床的人机工程进行了分析,通过对江苏新瑞数控机床的实
模因理论是达尔文进化理论在社会科学文化领域的应用,是解释文化进化规律的新理论。模因类似于生物中的基因,是通过感染者之间的不断的模仿进行复制、流传并最终存活。模因的
开发区是推进我国城镇化发展的重要模式。近年来,东部三大城市群的开发区在引进FDI方面一直保持着强劲的势头,开发区的外资集聚应会给当地的城镇化带来重大影响。我国开发区
<正>柯大夫:我母亲有"慢阻肺",医生建议我去买个氧疗机在家里给母亲吸氧,我去医疗器械的店里看了下,款式种类还很多,而且价钱也差别挺大的,店员的讲解也弄得我云里雾里的。氧