【摘 要】
:
在分类问题中,如何度量两个样本之间的差异是一个基本问题.对于欧氏距离度量,通常认为每个特征在确定样本之间的相似度时所起的作用是相同的,与样本的分布形式无关,并没有考虑它们在分类中的重要性,这显然与实际情况不符,也制约了机器学习算法性能的提高.因此,如何找到一种合适的方式度量样本特征对样本分类的重要性,就成为了机器学习中一个重要的问题.本文基于信息论和数据科学基本原理,创新性地提出一种基于半监督学习
论文部分内容阅读
在分类问题中,如何度量两个样本之间的差异是一个基本问题.对于欧氏距离度量,通常认为每个特征在确定样本之间的相似度时所起的作用是相同的,与样本的分布形式无关,并没有考虑它们在分类中的重要性,这显然与实际情况不符,也制约了机器学习算法性能的提高.因此,如何找到一种合适的方式度量样本特征对样本分类的重要性,就成为了机器学习中一个重要的问题.本文基于信息论和数据科学基本原理,创新性地提出一种基于半监督学习的可以有效衡量特征维度对于样本分类重要性的度量方法.由于特征维度重要性度量体现了特征维度对于分类任务的影响,因此可以依据这一度量构建能够体现这种影响的距离形式,从而给出一种新的度量学习方法.同时,基于特征维度重要性度量,给出一种特征选择方法,通过保留对于分类影响较大的特征维度,删除其它影响较小的特征维度,有效提高分类算法的性能.数值实验表明,这些方法适用于小样本问题,在包括手写图像在内的高维数据问题中表现出很好的性能,可以有效提高分类算法的准确性和计算效率,具有很好的鲁棒性和可计算性.本文首次以半监督学习方式,利用信息熵创新性地建立了特征维度对于分类重要性的度量方法,并基于这一度量给出了全新的度量学习方法和特征选择方法,从而为解决数据科学中度量特征维度这一重要问题提供了一种新的手段.与传统方法相比,该方法同时考虑了标号样本和整体样本的分布信息,在小样本学习上表现出很好的适用性,是熵理论在数据科学领域应用的一次探索,具有重要的理论基础和应用价值.
其他文献
中国古代的政治思想与理论极为丰富,西周已经确立了一整套关于权力合法性来源、政治目标、统治者与被统治者的关系、统治方式和策略选择等重要政治问题的理论。西周时期,一切权力的终极依据是天,天通过“天命”的方式将权力授予周王,“天下”则归王所有。但天命并非恒常,它是会因统治者的德行发生转移的,它的体现就是民心。这就决定了周王必须以得民心作为施政的目标,为此,周人选择了“明德慎罚”作为其治理理论。在这样一套
随着无线通信技术的飞快发展,无人机因其通用性以及可操控性在工业界和学术界受到广泛的关注。相较于地面固定基站的无线通信系统,无人机辅助无线通信能够提供更好的视距链路,并可利用灵活的机动性创造更好的信道质量。因此,无人机辅助无线通信是提高现有通信系统性能的一种有前景的解决方案。其中无人机的轨迹设计是无人机通信系统中的一个重点研究方向,如何设计无人机的轨迹对于提高系统容量也是至关重要的。然而,随着移动互
近年来,随着生活水平的日益提升,人民对安全的需求也不断提升。视频监控是社会安全维护的重要组成部分,是人民群众在生活中最容易接触到的监控手段。在一些中小型企事业单位或日常生活等中小型监控场景,对于成本控制比较敏感,不适宜采购大型视频监控设备。此外,由于目前智能手机的普及,通过用户APP实现的视频监控系统则成为了一种急迫的需求。因此,本文以中小型监控场景需求为背景,为满足办公室监控、家庭监控、幼儿园监
目的:探讨不同年龄组急性心肌梗死发作的时间分布特点,为AMI的有效预防和治疗提供新思路。资料与方法:统计从2017年1月1日~2017年12月31日之间就诊于我院心血管内科的AMI患者1649例,这些患者包括急性ST段抬高型心肌梗死(ST-segment elevation myocardial infarction,STEMI)1287例和急性非ST段抬高型心肌梗死(non–ST-segment
疝气是一种相对普遍存在的疾病,如何修复疝气及降低修复过程中发生交叉感染率等问题,是医学外科手术中亟待解决的难题之一。传统的缝合方法复发率高,以及不可降解材料的植入会对患者身体产生一定消极的影响,采用可全降解材料修复疝气是未来的必然趋势。论文以去离子水、无水乙醇为溶剂,柠檬酸钠(TCD)为改性剂,纳米氧化锌(ZnO)为原材,制备了改性纳米氧化锌(ZnO-TCD)。然后采用聚己内酯(PCL)、ZnO-
目的:1.探索TLR4/P65通路在椎间盘退变中的机制,并研究鱼腥草素钠对TLR4/P65通路的作用;2.研究TLR4/P65通路对髓核细胞合成代谢与分解代谢的关系,探索鱼腥草素钠对髓核细胞合成代谢与分解代谢的影响。方法:1.通过CCK-8法,确定IL-1β和鱼腥草素钠对NP细胞的毒性。选取合适药物浓度对髓核细胞进行干预,运用RT-PCR、蛋白印迹技术(Western Blot)等技术检测MMPs
目的:神经胶质细胞瘤是起源于大脑和脊髓胶质细胞的恶性肿瘤,胶质瘤具有高度异质性和侵袭性,外科手术很难实现根治性切除,患者预后较差。因此,迫切需要阐明涉及神经胶质瘤发生发展的分子机制,以及研究用于诊断和治疗目的的新型生物标志物。前期生物信息学分析发现,高表达miR-935的胶质瘤患者生存时间明显高于低表达miR-935的患者,且WHO分级Ⅳ级胶质瘤中miR-935的表达明显低于其它级别胶质瘤。故我们
2007年《中华人民共和国企业破产法》(以下简称《企业破产法》)开始颁布并实施,一方面通过破产清算使亏损企业、过剩产能退出市场;另一方面通过破产重整使陷入困境而有重组价值的企业获得新生。随着经济改革的陆续深化和司法实践的不断完善,能够实现社会资源重新配置,挽救濒临危机企业的破产重整制度在我国扮演着越来越重要的角色。在我国破产重整中,采取了两种模式:管理人管理模式与债务人自行管理模式。司法实践中,管
近些年来养殖业迅速的发展,养牛业作为养殖业主要产业之一,牛群的疾病引起了越来越多重视。其中牛呼吸道疾病综合征(Bovine respiratory disease complex,BRDC),因为其病因复杂多变,难以应对,对全世界的养牛业都产生了巨大的经济损失。尽管有大量研究尝试治疗牛呼吸道疾病综合征,但是这些措施对减少牛呼吸道疾病综合征的影响作用有限,因此从根源找出该病发生的病因,从而对症治疗显
低纬度濒海地区作为我国重要的能源(如可燃冰)储备地,在保障我国可持续发展战略方面具有重要的意义。然而,低纬度濒海环境生产厂区装备设施多数暴露在自然环境中,受到腐蚀介质的强烈作用,产生的腐蚀已经严重影响了区域装备设施服役的安全性和可靠性。虽然可以通过工程车进行装备腐蚀防护,但由于工程车集成性差、效率低,很难实现对腐蚀的控制。因此,急需形成低纬度濒海地区装备设施损伤的应急防护技术群。以方舱为装载体的轮