【摘 要】
：
针对词向量训练过程中层序Softmax算法无法进行增量训练及海量数据训练低效的问题,提出了动态层序Softmax算法.通过对数据样本的增量加载,采用结点置换方法动态构建编码树,实
【基金项目】
：
国家自然科学基金资助项目(61872167),江苏省社会发展基金资助项目(BE2017700)
论文部分内容阅读
针对词向量训练过程中层序Softmax算法无法进行增量训练及海量数据训练低效的问题,提出了动态层序Softmax算法.通过对数据样本的增量加载,采用结点置换方法动态构建编码树,实现对样本的增量训练.为避免损失函数因样本量较少而呈现震荡式下降,利用梯度的一阶矩估计与二阶矩估计动态调整参数更新方向与学习率,通过梯度迭代缩小权值变化范围和收敛训练误差,提高词向量的训练效率.以维基百科中文语料作为数据进行了试验,完成了训练效率和质量的分析.结果表明:相较于现有方法动态层序Softmax算法显著提高了训练效率,当增
其他文献
针对已有复杂视频事件检测方法未能有效利用语义概念信息的问题,提出了结合语义概念和双流特征模型的复杂事件检测方法.该方法采用动作检测器和对象概念检测器,得到动态概念和静态概念.提出针对任务的优选概念子集生成方法,并以此构建基于优选概念子集的视频事件检测器.同时构建光流图像和空间流序列的双流特征卷积神经网络模型加LSTM的事件分析表达模型,进而将两流事件分析结果进行融合分类检测.最后将基于语义概念的事
目的 进一步了解和掌握接受VCT的人群现状，有针对性的制定该县艾滋病防制计划。方法对2006年元月1日至2007年8月31日自愿到该县疾病预防控制中心VCT室接受咨询检测的资料进行
目的比较两种方法和吸附对农村地下饮用水中砷的测定结果。方法样品经处理后,用AFS-920双道原子荧光光度计进行测定。结果在本法条件下绘制标准曲线（0.0～40.0）μg/L浓度范围内线
目的了解南阳市宛城区HIV感染者重叠感染乙型肝炎病毒与丙型肝炎病毒和梅毒的重叠感染情况。方法采用酶联免疫吸附实验（ELISA）检测HIV感染者血清中乙肝病毒、丙肝病毒和梅毒的
目的乙型肝炎病毒（HbsAg）、艾滋病毒（HIV）、丙型肝炎病毒（HCV）和梅毒螺旋体（TP）是一种严重危害人类健康与生命的传染病，主要感染途径是血液、性传播和母婴传播等。分析血源性传染病感
《食品卫生法》中规定的没收违法所得的情形主要有两类：一类是生产经营者的主体资格不合法；一类是生产经营了不符合卫生标准或是禁止生产经营的食品。《食品卫生行政处罚办法》
目的调查镇江地区农民对院前急救知识的了结情况，并对相关影响因素进行分析。方法应用自制问卷调查表，采用分层抽样方法，对镇江市郊6个村的245名农民进行问卷调查，并对调查结果采
目的了解零食在营养、购买欲、种类这三方面上对主食冲击力的影响,为开展大学生营养健康教育提供依据。方法采用自编调查问卷的方式对180名女大学生进行营养健康教育抽样调查
目的全面、准确了解商丘市碘盐现况,为进一步推动持续消除碘缺乏病工作提供科学依据。方法根据《全国碘盐监测方案》（修订）,第一层次每个一级批发企业每月按东、南、西、北、中