用于图像分类的卷积神经网络中激活函数的设计

来源 :浙江大学学报(工学版) | 被引量 : 0次 | 上传用户:waq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了提高图像分类效果,针对卷积神经网络中常用激活函数relu在x负半轴的导数恒为零,导致训练过程中容易造成神经元"坏死"以及现有组合激活函数relu-softplus在模型收敛情况下学习率过小导致收敛速度慢的问题,提出新的组合激活函数relu-softsign.分析激活函数在训练过程中的作用,给出激活函数在设计时需要考虑的要点;根据这些要点,将relu和softsign函数于x轴正、负半轴进行分段组合,使其x负半轴导数不再恒为零;分别在MNIST、PI100、CIFAR-100和Cal
其他文献
分析了企业建立竞争情报系统的重要性,介绍了企业竞争情报工作的目的、组成和特点。并着重讨论了竞争情报的搜集和研究方法。
随着新课改的实施,高中英语听力的日常教学在高考备考工作中越来越重要。本文就影响英语听力的因素和如何提高听力能力进行浅析。
大树移植是园林绿化中的一项基本作业工程,大树移植技术对于大树移植成活率具有重要影响。以高海拔地区为例,详细分析了高海拔地区云杉大树移植技术,全面概述了移植过程,以供
教学改革,是近年来教育领域的重头戏。顺应课程改革新要求,着眼学生综合发展,改变传统教学已经成为大势所趋。而生活化理念,是当前形势下需要重点关注的教学理念,以生活资源构建起
本文介绍了首钢高炉生产现状,分析了高炉炼铁技术的发展前景,提出了高炉炼铁技术结构优化的重点,即大力发展高炉喷煤技术,提高精料水平和风温,延长高炉寿命,降低工序能耗。通过技术
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
在宁德市金溪一级水电站拦河坝工程中,根据工程岩石特性与实际施工特点,通过现场生产性试验,有针对性地提出相应的爆破施工参数和爆破方法,取得了理想的工程爆破效果。说明爆
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
调查师宗县城区主要市政不同等级的24条道路行道树乔木树种的应用现状,共计有18种行道树种,隶属12科18属。树种应用频度最高为香樟,应用频度为50。树种重要值排前十为香樟、