论文部分内容阅读
随着人工智能的兴起,深度学习方法在许多人工智能任务中取得了显著的效果。但是深度模型训练需要大规模的数据集,并且模型收敛缓慢。相比之下,人类视觉系统能够在仅观察一个或几个实例之后识别新物体。人类视觉系统与深度学习模型之间的这种显著差距引起了对小样本学习的研究兴趣。小样本学习的目的是构建一个好的分类模型,使其在每个类只有少量标注样本时也能够具有较好的分类效果。目前在小样本领域产生了许多优秀的解决方法,其中基于度量学习的小样本方法由于简单有效而被广泛使用,它首先通过特征网络学习样本的特征向量,然后在特征空间内寻找测试样本的最近邻预测分类。本文在使用度量学习思想的基础上,进一步提出了改进的特征网络和度量方式,能够有效地处理小样本学习任务,主要研究内容如下:1.阐述了小样本学习任务的基本形式和相关方法。针对小样本学习系统性的介绍了其问题定义及任务形式,然后详细介绍了小样本学习领域的相关方法。包括基于数据增强的方法,基于元学习的方法以及基于度量学习的方法,其中元学习方法又被详细划分为基于记忆的方法和基于优化的方法,本文对各类方法的核心思想进行了详细介绍及优缺点分析。2.基于度量学习方法提出标签特征网络,针对目前的度量学习方法使用单一尺度图像进行特征提取只考虑了全局特征而忽略不同尺度图像下的细节信息以及均值类原型不能很好的区分类中每个支持样本特征对于类表达的贡献度,提出多尺度特征和标签特征的概念。标签特征网络包含两个模块:特征模块和标签特征模块。特征模块用于学习图像特征,标签特征模块用于学习每个类的原型表达。首先对图像进行下采样处理以获得多个尺度的图像,并使用特征模块以多个尺度的图像作为输入学习图像的多尺度特征,然后标签特征模块以类内样本特征的深度堆叠作为输入学习每个类的标签特征。3.基于度量学习的小样本方法首先学习图像特征,然后在此基础上计算特征之间的相似性然后寻找最近邻预测分类。因此学习如何有效计算特征间的相似性是小样本学习的另一难点。目前,相似性计算方法主要是使用预先定义的距离度量,这些预定义的距离度量方法基于给定的学习特征进行度量,在很大程度上取决于学习的特征质量,当特征网络学习的特征区分信息不充分时往往受限。针对相似性度量依赖于所学的特征质量的情况,提出度量无关方式,利用网络计算特征间相似性,使其在相似性度量的同时,与特征提取联合学习提高分类效果。