多源域深度迁移学习方法研究

来源 :西安理工大学 | 被引量 : 0次 | 上传用户:qinglinqiuyi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,无监督域自适应(Unsupervised Domain Adaptation,UDA)算法成为了深度迁移学习算法的研究热点,该算法要求仅源域数据有标签,目标域数据无标签。目前,大多数UDA算法都是针对单源无监督域自适应展开研究,然而在实际场景中,源域数据往往是通过各种来源获得的,不同来源获得的源域数据与目标域数据在特征分布上相似但相似程度有所不同,而且不同来源得到的源域数据在数据分布上也会存在差异,单源无监督域自适应算法在解决这种多源域的实际情况时表现出了次优性能。而且,目前大多数多源域自适应算法也没有考虑到将各源域与目标域特征分布之间的差异信息加入到网络的迭代训练过程中,反而是均衡地利用各源域的特征信息进行迁移学习,这种处理不能合理有效地迁移各源域的特征信息,导致了负迁移现象的产生。本文主要针对多源无监督域自适应算法展开研究。首先,本文考虑多源域自适应过程中均衡利用各源域特征信息所产生的负迁移问题,基于Wasserstein度量以及最大均值差异(Maximum Mean Discrepancy,MMD)度量,提出了多源非均衡域自适应(Multi-source UnBalanced Domain Adaptation,MUBDA)网络;其次,为了进一步地提高目标域数据的识别精度,本文提出了样本优化算法,避免了无关信息的迁移。(1)针对多源域自适应过程中,均衡利用各源域特征信息所产生的的负迁移问题。首先,本文基于各源域与目标域特征分布之间的差异程度,提出了多源非均衡域自适应调节机制(Multi-source unbalanced domain Adaptation adjustment Mechanism,MAM);同时,本文也基于控制变量法提出了单源权重调节机制(Single-source weight Adjustment Mechanism,SAM),通过实验对比,进一步表明了多源非均衡域自适应调节机制的合理性;其次,本文基于多源非均衡域自适应调节机制提出了 MUBDA网络,该网络能够非均衡地借鉴各源域的特征信息,减弱了负迁移的影响;最后,本文在多个公共无监督领域自适应数据集上评估MUBDA的性能,并与多个无监督域自适应方法的实验结果进行对比,重点对比多源域自适应方法DCTN、M3SDA、MDAN的实验结果,验证MUBDA网络的有效性。(2)针对多源域自适应过程中样本优化的问题。首先,本文基于相互关系对齐(Correlation Alignment,CORAL)度量构建单源域自适应网络;其次,本文基于源域数据质量因素提出了解决负迁移现象的样本优化算法,以避免源域中无关信息的迁移;最后,本文通过将手写字符数据集输入到基于CORAL度量的单源域自适应网络中,利用样本优化算法剔除负样本,提高目标域的识别精度,同时,本文利用Office-31、Office-Caltech10以及ImageCLEF-DA数据集,将样本优化算法应用到基于Wasserstein度量的MUBDA网络中,进一步体现本文样本优化方法在多源域自适应中的有效性。实验结果表明,本文方法取得了较优的识别效果。首先,本文基于Wasserstein度量提出的 MUBDA 网络,在 Office-31 数据集、Office-Caltech10 以及 ImageCLEF-DA 数据集上均表现出了较优的识别效果;其次,本文将样本优化算法应用到基于Wasserstein度量的MUBDA网络中,对比样本优化前后的实验结果,目标域的识别精度在多个数据集上均有提升。
其他文献
仿生爪刺式爬壁机器人适应于自然界广泛存在的粗糙、多灰尘壁面环境,在灾难搜救、军事侦察、小行星探测等领域具有广泛的应用前景。爪刺抓附足是决定爬壁机器人性能的关键,现有机器人爪刺足均基于柔顺结构的弹性变形来被动适应壁面形貌,真正有效抓附在壁面上的爪刺较少,且处于抓附状态上的爪刺的承载力与柔顺结构的弹性变形相关,负载主要集中在少数几个爪刺上。如何根据壁面的复杂形貌有效调控爪刺阵列的抓附状态,将负载均布在
数字图像为人们汲取实时信息提供了便利性,但是在信息处理和传递的过程中易受到噪声干扰,造成图像内容识别、分析和理解困难。因此,图像降噪技术对于获取清晰的视觉效果显得尤为关键。近年来基于信号稀疏表示和深度学习的方法成为了研究图像降噪技术的主要手段。然而,大部分基于稀疏模型的去噪方法直接从噪声图像中进行字典学习,因此字典的性能容易受到噪声影响而对深层特征提取能力不足。基于深度学习的去噪方法虽然获得了良好
复杂工业过程中为了及时获得被控对象的关键信息,经常要对一些参量进行定性或定量的检查和测量,但是由于复杂工业系统结构繁杂多样、变量繁多等特点以及成本和技术等因素限制无法获取过程变量的某些关键信息。软测量技术被广泛应用于解决上述难题,它的核心是模型的建立,目前对复杂工业过程的研究大都致力于对建模方法的研究而忽略了输入特征对目标变量的影响,而且由于复杂工业建模难的特点导致对混合驱动软测量方法的研究相对较
随着信息化的高速发展,图像已经成为人类信息传递的重要手段,但雾天等恶劣天气通常会使成像设备获取到的图像对比度下降、色彩偏移退化和细节丢失。获取到的低质量图像不仅会影响人的主观视觉感受,使人无法从图像中更好的获取和理解图像所包含的信息。而且会对无人驾驶、安防监控系统、卫星遥感航拍等很多智能科技处理系统造成性能影响,这些智能系统都需要一个清晰的图像源作为后续工作的基础。本文以生成对抗网络为基础设计了一
人工智能的立法挑战兼具“功利”与“道义”双重属性,这要求立法超越近代以来的“科技—经济”立法范式,而转型至“在功利与道义之间”,并以此引领和保障人工智能立法的科学性。其中,道义论约束设定了基本门槛,人工智能活动只有在经过道义论检验之后才能转向功利性考量,否则就将是否定性评价。具体而言,立法必须注重人工智能在“安全问题”、“权利问题”以及“人性问题”三领域构成的道义论挑战,并以此为基础在人工智能的研
议论文是高考写作的常用文体,十分考验学生的素材储备和辩证思维。高中语文教材中的课文正是学生模仿的佳例,教师完全可以在日常阅读教学中以此为例指导学生的议论文写作。《师说》是一篇典型的正反对比式议论文,学生在学习课文的字词句及其精神内涵之余,还应认真研究篇章结构,归纳出正反对比式议论文的写作方法,以便在日后的写作中加以运用。
分布式多智能体系统是依赖于智能节点之间的相互通信、协调合作而组成复杂网络系统,它在智能交通、智慧城市、集群编队、传感器网络等多种领域内均发挥着重要的作用。一致性作为分布式多智能体系统控制的基本问题在过去的十年中得到了广泛而深入的研究。现有的一致性问题研究中,大多数假设了网络通信可靠运行、智能体始终保持稳定、拓扑结构固定等。在实际的多智能体系统分布式控制中必然会面临网络通信不稳定、智能节点受恶意攻击
由于通信技术的飞速发展和通信设备的日益复杂,电磁环境中出现了多种多样调制方式的通信信号。作为无线电频谱监测、认知无线电、软件无线电中的关键工作环节,通信信号调制方式识别是在缺乏先验信息和存在噪声干扰的情况下,分析接收信号样本获得其调制方式和其它调制参数的技术。正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)是一种新型的多载波调制技术,被
现实世界中,多目标优化问题无处不在。目标数为2和3时,我们称为多目标优化问题,当目标数大于3时,我们称之为超多目标优化问题。经过这些年的不断探索,多目标优化算法在理论层面以及实际应用中都取得了不错的进展,但对于超多目标优化问题来讲,很难获得较好的Pareto前沿。因此,如何保证种群解集的收敛性和多样性成为提升算法性能的关键。头脑风暴优化算法是基于群体迭代搜索的一种智能优化算法,具有模型简单、收敛迅
在企业内部层面提升上海民营企业的创新能力,要培育创新型企业家精神,积极引导企业技术创新、产品创新、管理创新、制度创新、观念创新,为企业创新发展奠定基础。要推动创新人才队伍建设,培育、引进科技型创新人才,采取积极措施激发其创新精神,推动企业创新发展。要加强产品的研发力度,整合各种资源,突破关键核心技术,通过自主技术创新实现产品创新,提升企业在全球价值链中的地位。