带动量项的梯度下降算法的收敛性

来源 :华东理工大学学报(自然科学版) | 被引量 : 0次 | 上传用户:hellson
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文对基于三层前馈神经网络的带动量项的反向传播算法进行了理论分析.在我们的模型中,学习率为常数,动量系数为一个适应性的变量.本文给出了带动量项的反向传播算法的收敛性结果及详细的证明.相比于目前已有的结果,本文中的结论更具有一般性.
其他文献
利用毕赤酵母GS115表达系统,成功表达并纯化获得了两种Kex2蛋白酶突变体Kex2-K291L和Kex2-K291H.对比研究了天然Kex2蛋白酶和这两种突变体的酶学性质和稳定性.实验结果表明,与天然Kex2蛋白酶相比,Kex2-K291H和Kex2-K291L两种突变体的稳定性得到了明显的改善.两种突变体的最适pH和最适温度与天然Kex2蛋白酶保持一致,均为pH 9.0和37℃,两种突变体的温度稳定性也与天然Kex2蛋白酶基本一致.与天然Kex2蛋白酶相比,突变体Kex2-K291H的pH值稳定性范围
采用粗细粒度优化、参数定点化与重排序等多种硬件加速方法,基于FPGA+SOC异构平台提出了一种低功耗目标检测加速器架构.针对现有研究的设计局限性,在Zynq 7000系列FPGA上对YOLOv2算法进行新型多维度硬件加速,并对加速器性能和资源耗费进行深入分析建模,验证架构的合理性;为充分利用片上硬件资源,对各个模块进行特定优化设计,针对被忽视的底层繁琐数据访问,改进加速器数据访存机制,有效减少了系统传输时延.实验结果表明,该架构在PYNQ-Z2平台上获得了26.98 GOPs的性能,比现有的基于FPGA的
在聚乙烯管道电熔焊接接头的超声成像中,特征线、电阻丝线和管材内壁回波这3条信号线的检测是实现焊接缺陷自动化识别的关键技术.针对超声图像纵向分层显著、全局干扰较多的特点,提出了一种自适应聚乙烯管道超声信号线检测算法.首先,为了识别分层区域,基于形态学运算对灰度图进行自适应模糊,再进行水平均值投影;然后,基于目标特征和空间信息改进了自适应阈值分割算法,用于检测特征线,并提出了Otsu-CRF算法用于检测电阻丝并解决电阻丝粘连问题;最后,基于色彩空间和阈值分割实现管材内壁回波的检测.实验结果显示,本文的自适应算
针对多变量动态过程的故障诊断,采用局部提取、全局整合的特征提取策略,提出了一种多块卷积变分信息瓶颈(Multi-Block Convolutional Variational Information Bottleneck,MBCVIB)模型.首先,根据过程机理,对所有变量分块,将同一操作单元的变量划分为同一子块,再利用一维卷积神经网络(One-Dimensional Convolutional Neural Network,1-D CNN)提取过程中每个子块的局部特征,从而考虑样本间的时序相关性;然后,整
为改善多相电机转矩控制策略性能,以对称六相永磁同步电机为研究对象,结合其结构和绕组分布特点建立自然坐标系下数学模型.由于多相电磁耦合下计算复杂,推导出旋转坐标系下的矢量变换模型.针对多相电机启动转矩波动较大现象,提出一种新的基于空间矢量脉宽调制(SVPWM)技术的直接转矩控制(DTC)策略.在MATLAB/Simulink环境下,对电机的矢量解耦变换下的数学模型进行仿真研究.结果表明,相比于传统直接转矩控制,所设计的新算法对电机电磁转矩、磁链等方面具有更好的抗扰动性和调控性能,验证了所开发控制算法的有效性
采用高温热台显微镜原位研究了铁精粉单颗粒在高温及CO气氛下还原过程的演化特征.通过原位实验记录了铁精粉单颗粒的高温还原过程,并利用拉曼光谱仪验证了还原反应产物(单质铁).结果表明,颗粒表面出现单质铁的时间受温度影响显著,受气体流量影响小.其中,当温度从1100℃升至1300℃时,单质铁的生成时间缩短约75%;当温度从1300℃升至1400℃时,单质铁的生成时间基本不变.当温度为1100~1350℃时,铁精粉颗粒在还原过程中表面会产生瘤状物,且瘤状物尺寸随着温度升高而增大.引入瘤状物长宽和的平均值为特征尺度
由于传统的目标检测算法较为复杂,在算力、存储空间有限的场景下无法实时检测,因此本文提出了一种轻量级入侵检测算法.首先采用自适应更新率的混合高斯前景提取算法提取初筛目标,然后基于改进的残差压缩网络(R-SqueezeNet)对初筛目标进行识别分类.实验结果表明,该算法在不降低检测精度的前提下,比传统算法的检测速度平均提升了30倍,模型体积缩减至YOLOv3-tiny算法的1/40.
树上的最小-最大k旅行商问题是多旅行商问题在树形结构中的推广问题.研究了树上的最小-最大k旅行商问题、树上的多仓库最小-最大k旅行商问题以及树上的最小-最大k路覆盖问题,提出了基于自下而上的动态规划的拟多项式时间精确算法.将树上的多仓库最小-最大k旅行商问题的算法推广到树上的多仓库最小-最大k路覆盖问题和树上的多仓库最小-最大k中国邮递员问题,分别给出了首个拟多项式时间精确算法.
针对有源噪声控制中非线性因素影响建模精度和控制效果的问题,采用神经网络代替传统模型,推导对应的控制算法.用训练结果验证了神经网络对次级通道辨识模型精度的提高.以管道为实验对象,搭建有源噪声控制实验平台,进行噪声控制实验,将传统次级通道模型与优化次级通道模型的实验结果进行对比.结果表明:在低频条件下,针对单一频率和两种频率混合的噪声源,相比传统模型和算法,神经网络优化模型和算法取得了较好的效果.
为了解决多模态多目标优化问题,寻找与帕累托最优解等效的所有解,通过在基本的群搜索算法中引入社会行为,提出了一种新颖的基于空间学习机制和情感追踪行为的社会群搜索优化算法(MMO_LTSGSO).首先,建立空间学习机制,根据学习到的个体自身位置与最佳个体位置的实时信息,对种群分布状态(离散态、聚合态)进行决策.当种群处于离散态时,采用追随和游走的方式增强算法空间探索能力;随着优化过程的进行,个体彼此影响交互,空间距离逐渐减小,此时种群逐渐聚合,采用动态步长的搜索策略更新个体位置,能实时勘探最优解周围的解,加快