多层前向神经网络的新型二阶学习算法

来源 :控制理论与应用 | 被引量 : 0次 | 上传用户:maodaiwan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
提出了多层前向神经网络的新型二阶递推学习算法 .该算法不仅能使网络各层误差而且使二阶导数信息因子反向传播 .证明了新算法等价于Newton迭代法并且有二阶收敛速度 .它实现了Newton搜索方向和Hessian阵逆的递推运算 ,其计算量几乎与普通递推最小二乘法相当 .由算法性能分析证明新算法优于Karayiannis等人的二阶学习算法 . A new type of second order recursive learning algorithm for multi-layer forward neural networks is proposed, which can not only make the network layers error but also backpropagate the second-order derivative information factor. It is proved that the new algorithm is equivalent to the Newton iterative method and has two Order convergent speed, which achieves the recursive computation of Newton search direction and Hessian matrix inverse, which is almost the same as that of ordinary recursive least square method.The algorithm performance analysis proves that the new algorithm is superior to the second-order learning algorithm of Karayiannis et al.
其他文献
石材吸水率吸指的是在标准大气压下石材对水的吸收能力.是以石材所吸收的水分作为度量的标准,以百分比的形式来表示,石材的吸水率受到石材之间的空隙的数量和大小、颗粒相互
食物一直都是人们生产生活的关键,食品的安全也影响着每个人的健康.近年来,我国发生了许多食品安全事故,这不仅损害了消费者的利益,对人们的健康是一种巨大的威胁,加强我国食
研究了定位指示激光的线宽问题,也就是激光定位仪的定位精度问题.通过理论模拟和相关实验,研究影响激光束宽度的光环境因素,指出特定功率的激光束在不同光环境下的束宽是不同
为提高检测效率,根据凸轮零件检测技术要求,设计一个附具,用于在万能工具显微镜光学分度台上固定凸轮,以实现凸轮快速找正.利用光学灵敏杠杆配备相应规格的测头测量凸轮曲线
数字减影血管造影(DSA)是心血管诊断的大型医疗设备,本文就已颁布实施的JJG 1067-2011《医用诊断数字减影血管造影(DSA)系统X射线辐射源》国家检定规程的特点和实施中需要注
火炮的后效期现象是一种比较复杂的非定常气体动力学现象.传统的后效期理论通常采用准定常假设,有些理论计算公式形式奇特,物理概念不清.该文对火炮后效期的理论计算公式作了
结合水工闸门工作特点 ,通过对全国 81座大型水库门前年峰水位的统计分析 ,阐明了门前峰水位 (年水头峰值 )基本服从于正态分布 ,对数正态分布和极值Ⅰ型分布 ,且其概率分布
小肠由于其活动度大,可以拖出切口,因此手工吻合十分方便,故较少应用吻合器.另外吻合器,特别是进口吻合器,价格较手工吻合费用昂贵,也是小肠吻合很少采用吻合器的原因之一.但
介绍了可控串补(TCSC)模拟试验研究中控制器的设计及软、硬件结构.控制器的设计以工业现场条件为依据,暂态网络分析(TNA)模拟试验研究结果表明,该控制器达到了设计要求,可以
依据可靠、误差较小的方向场可以准确快速地找到诸如指纹螺旋中心等特征 ,并且使快速提取指纹图中沟和脊的特征成为可能 .为此 ,经过分析比较以往检测纹路方向的算法 ,根据指纹图的特点 ,提出了一种用 Walsh变换检测纹路方向的算法 .该算法不但速度较快 ,容易实现 ,而且其计算结果也证明能很好地表示指纹图上纹路方向和特征 .即使指纹图像有所旋转 ,该算法也能得到确切的方向场