一种改进的卷积神经网络学习算法

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:fengsuiyu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着近些年计算机性能的不断提高,人工神经网络的应用也从最初的二元线性分类逐渐向人工智能领域发展,尤其是卷积神经网络的广泛应用促使人们的生活更加智能化、便捷化。卷积神经网络的应用研究一直是神经网络研究的热点,研究者们通过在网络结构、学习算法等方面对它进行改进来提高网络在各个领域的应用效果。除此之外,神经网络的理论研究也是至关重要的,只有充分地理解神经网络的本质,才能更具有针对性的改进神经网络,不断完善神经网络体系。本文的主要研究工作就是从这两方面展开。在理论研究方面,关于神经网络解释性的大部分工作都是从视觉上解释网络所学习到的特征。本文从概率密度的角度探讨了神经网络中输入神经元和输出神经元之间的关系。对于分类问题来说,理论推导表明在输入神经元之间彼此独立且服从高斯分布的假设下,输出神经元的概率密度函数可以转化为三个的高斯密度函数的组合,其中输入神经元的信息以及网络参数均与这三个函数的均值和方差相关。随后在三个数据集上进行实验验证,结果显示输出神经元的理论分布与实际分布基本一致,验证了理论推导的准确性。在应用研究方面,网络的学习算法是否更加有效对于它是否能获得更好的应用性能是至关重要的。误差反向传播算法常被用来训练卷积神经网络,然而在该学习算法中不同样本对权重变化量的贡献没有明显的差距,这使得网络参数的调整不容易受到难分类样本的影响,减弱了网络的分类效果。为了增强这种差距,本文首先将样本属于其正确类别的程度定义为分类置信度,并根据动态阈值把训练样本划分为危险样本和安全样本。其次,文中基于分类难易程度提出了一种改进的学习算法,该算法对危险样本的损失进行惩罚,使卷积神经网络更加关注危险样本,并能够学习更多有效信息。最后,我们把采用改进的学习算法训练得到的卷积神经网络称为PCNN,并在MNIST数据集和新构建的CIFAR-10的三个子数据集上分析PCNN的分类性能。对于MNIST数据集来说,传统的CNN的分类准确度达到99.246%,而PCNN的准确度达到了99.3%;对于CIFAR-10的三个子数据集而言,传统的CNN的分类准确度分别为96.15%、88.93%和94.92%,而PCNN的准确度分别为96.44%、89.37%和95.22%。
其他文献
药物-靶标蛋白关系(DTR)预测分为药物-靶标蛋白相互作用(DTI)分类与药物-靶标蛋白关系亲和力(DTA)回归,它是现代药物发现和药物设计的关键,并为药物副作用研究、药物重定位以
随着体验经济时代的来临,旅游业发展也越来越快,度假旅游作为当前比较流行的旅游方式,吸引了来自社会各界的目光,景区进行文化升级和休闲度假产品开发是旅游业发展的必然。本
在目前市场环境下,产品的差异性不断缩小,渠道的发展趋向于多样化,企业的盈利重心由产品竞争转向渠道竞争。因此,渠道成为一个不可忽视的重要因素,一个效率好、品质强、响应
在森林生态系统中,凋落物性质与林分因子的空间异质性研究相较于土壤性质而言略显薄弱。为了探究林分因子对凋落物性质空间异质性的影响,本研究以吉林汪清金沟岭林场4块1 hm2天然云冷杉针阔混交林样地为对象,通过调查采样与实验测定,对凋落物现存量、自然含水率、有机碳含量以及林分密度、林分郁闭度和叶面积指数进行了半方差函数分析,绘制其空间分布格局图,并对林分因子与凋落物性质进行相关性分析,这将有助于明晰凋落
住房消费是关系到百姓生活的最切实的民生问题,住房价格受到人均收入水平、城市发展程度、居住环境等因素的影响。而随着信息技术和现代交通技术的发展,城市之间的联系日趋紧
近年来,计算机技术瞬息万变,多媒体技术发展势如破竹,网络承载的业务种类也层出不穷,这使得网络业务流量急剧上升。在这种形势下,传统“尽力而为”服务的网络频繁产生拥塞、
分析尿液有形成分,有助于评估患者肾脏和泌尿系统状态。针对无染色无标记的尿液有形成分图像成分繁多、边缘模糊、散焦严重等特点,传统方法大多采用形态学分割及支持向量机(S
目前,模块化机器人已经成为了机器人领域十分热门的研究对象。通过改变多个模块间的连接组合方式,一组模块化机器人可以形成不同的模型构型以适应复杂多变的地理环境或执行不
随着数据规模和计算能力的飞速增长,基于数据和硬件的深度学习开始显示出独特的优势。作为一个有挑战性的人工智能领域,自动生成图像描述正受到越来越多的关注。作为计算机视
齐墩果酸是一种广泛分布在多种植物中的五环三萜类化合物,具有保肝、抗炎、降糖、抗肿瘤等生物活性,但存在水溶性差、生物利用度低等问题,制约了其在食品、药品和化妆品等领域的应用。研究表明,对齐墩果酸进行结构修饰或纳米包埋可以在一定程度上解决上述问题,但由高分子聚合物或脂质体制备的齐墩果酸纳米颗粒存在载药量低、稳定性差、缺乏靶向性等弊端。自组装技术作为一种简单、高效的纳米颗粒制备技术,无需引入载体材料,只