基于Log-det正则化的半径-间隔学习方法及其应用

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:cxdzxc12
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
半径-间隔学习方法作为机器学习领域较为热门的研究方向之一,在分类和识别等应用中得到了广泛的关注。半径信息的变化隐含在特征变换过程中,对于分类器的性能优化起着重要的作用。现有的半径-间隔学习方法均存在一定的缺陷和不足,限制分类器性能的进一步提升,同时算法的计算效率也有待提高。针对上述问题,本文从模型优化的角度出发,构建了一个高效的基于Log-det正则化的半径-间隔支持向量机模型(L-SVM)。由于传统的半径-间隔SVM属于有约束的非凸模型,本文首先通过对半径R进行约束近似,将原始问题转化为无约束的凸优化模型,并采用Log-det正则化项进一步降低模型过拟合的可能性,同时给出了高效的算法求解策略。后续在多个UCI数据集上的线性和非线性分类结果验证了模型的有效性。其次,为了验证模型的泛化能力,我们将提出的模型应用于动作识别任务中,通过对视频提取多种局部特征,并采用Fisher Vector进行编码,最终用L-SVM分类器进行分类。实验结果表明本文提出的模型具备良好的泛化能力,能够适用于各项不同的分类识别任务。通过将逐层次的特征提取和分类器学习相结合,卷积神经网络(CNN)在计算机视觉的多项任务中都取得了优异的性能。受此启发,本文将L-SVM模型嵌入到CNN框架中,通过交替迭代优化的方法提升动作识别的性能。为了提升CNN特征的区分能力,本文还将center正则化项加入到目标函数当中,保证在最大化类间间隔的同时最小化类内间隔。此外,本文也尝试在CNN网络中间层加入监督信息,以进一步提升算法的收敛性能。通过对不同的半径-间隔学习方法、加入center正则化项以及监督信息的性能对比分析,本文为CNN和半径-间隔学习方法的结合提供了崭新的视角。
其他文献
大数据时代的到来,从海量数据中提取有价值信息对企业,政府等部门至关重要。本文主要研究内容是大数据下的OLAP分析。Hadoop——集分布式文件存储HDFS和并行计算模型MapReduce
TTCN-3是欧洲电信标准协会(ETSI)于2001年推出的一种测试描述语言,可用来描述对交互式系统的黑盒测试。通过使用TTCN-3,能够将测试的抽象描述和测试具体的实现分离,提高测试
随着计算机及网络技术的发展,基于网络的学习方式越来越普遍,网络学习系统也大量地被开发出来。然而目前的网络学习系统普遍存在:交互性不强,不能进行个性化教学,学习缺乏引导,缺乏
网络化通信是PLC(Programmable Logic Controller)的发展方向,而主从通信是PLC的基本通信方式,大量地应用在工业现场设备等控制系统中。主设备通过读取或写入从设备内存量,达
频繁模式挖掘是数据挖掘中的一项重要工作,也是关联规则挖掘的一个关键步骤,可以应用于诸如分类、聚类、预测等数据挖掘任务中。目前,关联规则挖掘结果多以在线交互方式导出,
作为世界上人口最多的国家,加强计划生育和人口管理现代化,对于我国各项事业的发展至关重要。利用先进的计算机网络技术,建立联网的育龄妇女服务与管理信息系统,实现育龄妇女
近年来,无线传感器网络伴随着微电子技术、无线通信技术和网络技术的发展而产生,其无需基础设施、具有自组性、随机部署和多跳的特性使其应用越来越广泛,涉及到军事、商业、环境
随着网络经济的兴起,电子商务得到了快速的发展与应用。因而也促进了社会对电子商务方面人才需求量及其素质要求的提高。这就对电子商务人才的产地之一:学校,提出了更高的要
伴随着互联网的快速发展与普及,越来越多的个人用户在使用网络应用的同时产生大量的数据。而云技术的发展也使得更多的企业用户选择将数据服务迁移到云中。在电子商务、社交
当下,海量视频数据中包含着丰富的信息,对于这些视频进行分析处理的需求也越来越多。有的视频其视频质量非常低,其中字符大小极小,而且受到噪声的干扰,本文中称为“超低质量