对非平衡数据的边界损失函数研究及其应用

来源 :景德镇陶瓷大学 | 被引量 : 0次 | 上传用户:scenery747
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
所谓非平衡分类问题,指的是训练样本数量在类间分布不平衡的模式分类问题[1]。在不平衡的数据集中,样本数量较多的类被称为多数类,而样本数量相对较少的类被称为少数类。在非平衡的训练数据集上,机器学习模型往往向多数类偏移,常见的解决非平衡分类问题的方法主要有两类:一是从数据预处理的角度去解决非平衡分类问题,主要有重采样,上采样,下采样等方法;二是从算法的角度去解决非平衡分类问题,主要有集成分类器,代价敏感学习等方法。代价敏感学习指的是在训练分类器时给不同类别的样本赋以不同的权重,在深度学习中,一般通过改进神经网络的损失函数来实现代价敏感学习,一般是在常用的交叉熵损失函数(Cross-Entropy Loss,CEL)的基础上,添加一些权重条件,从而提高多数类样本的损失,降低少数类样本的损失,达到解决非平衡问题的目的。Focal Loss(FL)是其中一种性能优越的代价敏感函数,它通过降低易分类样本的权重解决类的不平衡的学习问题。然而,FL也存在局限性,它过多地关注在分类边界附件的难分类样本。本文设计了一种新的损失函数,称为边界焦点损失(Boundary Focal Loss,BFL),主要是通过降低特别困难的样本(噪音)权重来提升学习性能。本文首先将BFL在信用卡欺诈检测、酶功能分类、癌症分类三种不同领域进行了实验。信用卡欺诈问题是生活中常见的非平衡分类问题,能否妥善解决信用卡欺诈检测问题对于金融机构来说十分重要。而酶是人体必需的一种蛋白质,主要作为催化剂参与体内生物反应,在调节生物过程中也起着至关重要的作用。酶的功能一共有七类,每种功能酶的数量分布极不均衡。除此之外,癌症是遍布世界各地的一种致命疾病,近年来计算机辅助癌症诊断取得了越来越大的进展。对于这三个非平衡问题。本研究通过相应的方法提取数据的特征,并构建合适的深度学习分类器,然后分别使用CEL、FL、BFL作为分类器的损失函数,实验结果验证了BFL效果要优于另外两种损失函数。最后,本研究还将BFL应用到植物DNA启动子预测问题中,构建了一个高性能的预测器:i PPT_BFL。DNA启动子是靠近起始密码子的一个短的DNA序列,负责启动基因组中特定基因的转录,对启动子的准确识别有利于更好地理解其转录调控[2]。本实验使用嵌入层、卷积层以及长短时记忆神经网络相结合搭建深度神经网络模型,五折叠交叉验证结果表明模型使用BFL作为损失函数取得最佳性能,i PPT_BFL的性能也优于随机森林和支持向量机两种基准机器学习算法模型;同时相比于最新报道的DNA启动子预测工具IPPT_CNN,i PPT_BFL的分类性能在训练集和独立测试集都要优秀。本研究对数据非平衡的机器学习问题提出了新的损失函数模型—BFL,该模型在一些典型问题中取得了良好性能,BFL也可用于其它的非平衡数据机器学习,对提升深度神经网络模型研究有一定的积极意义。
其他文献
近年来,随着全球范围内新冠肺炎疫情的肆虐,人们的生活和工作都受到了严重的影响,尤其是在医疗服务领域,而互联网医院平台的发展和应用在新冠肺炎疫情防控中发挥了独特的优势。借助着互联网技术的发展和普及,互联网医院平台在新冠肺炎疫情爆发后得到了快速的发展,为公众和医疗机构提供了便利,但互联网医院平台仍存在一些不完善的地方,影响公众对其的使用意愿。因此,本文旨在研究后疫情时代下公众对互联网医院平台的使用意愿
学位
档案信息资源是记录一个国家,一个民族乃至每一个普通民众对过去历史和记忆的重要资源,它对于国家记忆、社会记忆、民族记忆和公众个人过去记忆的形成和保留起着重要的作用。社会力量参与档案信息资源开发可以最大限度的实现档案价值,促进档案资源的利用和再利用。当前我国社会力量参与档案工作处于起步阶段,对其进行理论性分析占多数,在开展相关研究时,缺乏社会力量如何参与,以什么样的方式参与档案事物的问题,本研究基于这
学位
环氧酯防锈漆因施工方便、价格低廉、涂膜坚韧、附着力及耐腐蚀性好而获得广泛应用。传统溶剂型环氧酯防锈漆因存在严重的环境及安全问题,故水性化已成为其发展方向。但水性环氧酯防锈漆存在涂膜干燥慢、硬度低、耐水性和防腐性较溶剂型差等问题,因此,开发高性能的水性环氧酯防锈漆具有重要的意义。本文先通过亚麻油酸和环氧树脂(E-20)酯化,之后和顺丁烯二酸酐(MA)酯化,再通过和苯乙烯(St)、双丙酮丙烯酰胺(DA
学位
广阔的海洋蕴含着丰富的自然资源,为了有效的开发与利用海洋资源,需要大规模的海洋设施,但在海洋环境中会不可避免的遭受海洋生物的侵害,海洋生物污损成为了海洋开发中亟待解决的问题,也带来了巨大的经济损失。其中,在海洋设施表面涂覆防污涂层是最经济有效的方式。但是被淘汰的三丁基锡(TBT)涂层和现在广泛使用的含铜防污剂涂层会造成海洋环境的污染,所以开发无毒环保的海洋防污涂层具有重要意义。有机硅涂层由于具有低
学位
手性酰胺类的有机催化剂被广泛应用于食品加工、医药、农业、生物和材料等许多自然科学技术领域,因此基于酰胺类催化剂的设计合成具有重要的应用价值。手性酰胺类催化剂具有氢键活化底物的能力,能有效地促进不对称反应的发生。目前已经开发和合成了多种手性酰胺类的催化剂,例如:以环己二胺为骨架制备的手性酰胺催化剂、金鸡纳生物碱类型的手性酰胺催化剂、1,2-二苯基乙二胺为骨架制备的手性酰胺类催化剂、脯氨酰胺类催化剂等
学位
商业银行作为一个充当信用中介的金融机构,信用风险一直是其所面临的最主要风险,当前我国商业银行七成以上的资产类业务均是承担信用风险的授信业务,探究商业银行信用风险问题对我国银行业、金融市场和实体经济的发展至关重要。2020年以来,在国内外经济金融形势因疫情而面临挑战和动荡的情况下,我国银行业系统依然贯彻执行党中央、国务院的决策部署,一方面促进发展,一方面防范风险,保持银行业的稳健经营。宏观经济对于商
学位
设G是群,α ∈ Aut(G).如果对任意的g ∈ G,有g-1gα ∈ Z(G),则称α为群G的中心自同构.G的全体中心自同构组成的集合关于映射的合成构成Aut(G)的子群,称为G的中心自同构群,记为AutZ(G)(G).设G是有限非交换p群.称群G为At群,若G至少有一个指数为pt-1的非交换子群,但它的所有指数为pt的子群都交换.不难看出,每个有限非交换p群都是某个At群.因而研究非交换p群
学位
股权结构是企业设立和运营的基础,对企业经营业绩的提升和未来发展产生关键性的影响,这就要求企业设置科学合理的股权结构。当前,中国经济正处于从高速发展到高质量发展的转型阶段,高新技术企业不断涌现,新的发展需求也对国家政策环境提出了新的要求。新技术企业出现和发展需要我们在体制上进行新的改革和创新,于是我国设立了科创板,其初衷是为促进企业科技创新和外部融资提供发展平台。在这样的新兴时代背景下,科创板差异表
学位
软物质涉及了物理、材料、生物等多个研究领域,活性体系作为软物质体系中的一部分,近几年来其研究范围越来越广泛。活性物质与非活性物质之间最大的不同在于,活性物质可以通过消耗外界环境中的能量来实现自身的驱动,这种驱动是自发的运动。活性体系中可以发生相分离现象,还可以观察到巨涨落等非平衡现象。20世纪以来,人工合成的活性粒子取得了巨大的突破,已经可以达到纳米尺度。活性体系的应用前景广泛,不仅可以用于医药研
学位
随着信息技术的发展,直播逐渐成为当下热门的新经济业态,为疫情期间的企业注入新的活力。相关数据显示,2020年直播电商总规模达1.2万亿元。直播成为企业数字化转型的重要窗口,越来越多企业开通直播服务,期望通过这一形式在口碑传播、产品营销等方面取得新突破。与此同时,由“薇娅逃税事件”引发的主播社会责任问题受到社会广泛关注。目前,市场上提供直播服务的平台众多,产品同质化严重,主播质量良莠不齐也降低了直播
学位