基于稀疏编码的迁移子空间学习算法研究

来源 :国防科技大学 | 被引量 : 0次 | 上传用户:gaolch008
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的机器学习算法通常假设源域和目标域数据服从同一个分布,然而,在实际应用中,源域和目标域数据往往服从不同的分布。采用传统方法训练模型时,每当目标域的分布发生了变化,就需要重新收集训练数据及其标签。为了减少数据浪费,迁移学习允许源域和目标域的数据分布存在差异。本文关注迁移学习中最具挑战性的无监督域适应(Unsupervised Domain Adaptation)问题,该场景中源域有标签,而目标域无标签。为解决该问题,一般思路是,最小化不同域数据分布之间的差异,以期提高分类器在目标域上的泛化性能。稀疏编码和子空间学习作为提取低维特征的常用方法,已经成为了处理域适应问题的重要选择。但是基于以上两种策略的现有算法仍然存在许多不足。本文的工作主要分为2部分:1、提出了基于有监督组稀疏编码的判别域适应模型(Discriminative Domain Adaptation,DDA)。在无监督域适应场景中,源域是有标签的。然而,传统的稀疏编码是无监督学习模型,忽略了源域的标签信息。针对这个问题,本文提出了DDA算法。DDA假设在某个共同的子空间中,目标域数据可以由源域数据稀疏表达。DDA通过联合有监督的?2,1稀疏编码和判别的正则化项,学习到具有判别性质的跨域隐子空间。实验表明,以上两种策略都能有效减少不同域分布的不匹配性,增强模型的知识迁移能力,从而提升学习任务的效果。2、提出了联合图嵌入的判别域适应模型(Joint Graph Embedding Discrimina-tive Domain Adaptation,JGDDA)。图嵌入,是一种流形学习的降维框架,它通过图拉普拉斯正则来寻找能够保持原始数据内在几何结构的低维投影。在第一个点的基础上,JGDDA首先加入了图嵌入技巧来得到更有效的子空间。然后,JGDDA对核空间的投影进行了?2,1的稀疏约束。具有行稀疏性质的投影矩阵等价于重新加权核空间中的数据,过滤掉不相关的数据,使得模型更加鲁棒。求解模型时,先将图拉普拉斯的解嵌入到原目标函数中,这样在迭代过程中无需进行特征值分解;之后,采用了增广拉格朗日法(Augmented Lagrangian Method,ALM)求解模型。实验展示了JGDDA在两个真实数据库上的有效性,验证了图正则和重加权策略均能有效增强模型的迁移能力。
其他文献
<正>~~
期刊
本课主题——在写作中用上几个象声词同步教材——苏教版四年级上册习作四学习重点——怎么用象声词,才能使句子变得形象生动学习途径——同步点评+总结指导暑假里的一天,爸
回顾信息通信网络发展的历史,总结其成功和不足。从改善网络性能和提高网络资源利用率的角度出发,提出了可重构柔性网络的体系结构。描述了可重构柔性网络的基本形态,阐明了
用固相合成法合成了两种不同链长的含RGD序列的小分子多肽,分别为RGD和GGGGRGDS。用物理共混法制备了含RGD的SS-PEI/DNA复合物。测定了该复合物的电位,研究了RGD的链长和加入
以黑龙江省扎龙自然保护区的植物根际土壤为实验材料,采用对峙实验筛选抑制西瓜专化型尖孢镰刀菌(Fusarium oxysporum f. sp. niveum,FON)的菌株,并采用菌丝生长、孢子萌发和
研究背景慢性乙型肝炎病毒(HBV)感染损伤宿主免疫应答,致使宿主不能完全清除病毒,肝脏炎症病理持续存在并最终发展为肝硬化和原发性肝癌。在慢性HBV感染中,由于持续暴露于高浓度的HBV抗原之下,HBV特异性的T细胞(HBV-specific T cells)数量减少并且功能耗竭,这是导致HBV感染慢性化的主要原因。目前治疗慢性乙型肝炎(CHB)的长效干扰素α(PegIFNα)可通过激活宿主免疫应答抑
“含む”和“含める”都是很常用的动词,都是大学日语和日本语能力考试中要求掌握的。在高等教育出版社出版的《大学日语教学大纲(第二版)》中,“含む”的解释是“含有、包括”,“
打来电话的一方,要找的人不在时,代接的人应该做好记录传达给要找的人。如果打来电话一方有些事不便说时,那就告诉对方另找时间再打电话。
1896年男子射箭被列为奥运会正式比赛项目,1972年起允许女子参加奥运会射击赛,但不设女子项目,与男子同场竞技。1984年设部分女子项目,1996年男、女比赛完全分开。射击运动起源于
[摘要]自治与责任是高校存在与发展的核心要素,揭示了高等教育发展的内在规律,反映高等教育的基本要求。自古代及中世纪以来,印度高校自治与责任的历史可分为3个阶段,即独立前印度高校的自治与责任、独立后至20世纪80年代末的自治与责任和80年代末以来的自治与责任,分析印度高校自治与责任的演变进程,对我国高校解决自治与责任问题有着重要的启示意义。  [关键词]印度高校;自治;责任;演进;启示  [中图分类