【摘 要】
：
针对解决粗粒度和细粒度情感分析的问题,提出一种基于BERT的深度学习情感分析模型.首先通过预处理将文本信息转化为矩阵向量的表示形式;其次利用MLM和NSP进行联合预训练;接着
【机 构】
：
云南大学 信息学院,云南 昆明 650500;云南大学 科技处,云南 昆明 650500
论文部分内容阅读
针对解决粗粒度和细粒度情感分析的问题,提出一种基于BERT的深度学习情感分析模型.首先通过预处理将文本信息转化为矩阵向量的表示形式;其次利用MLM和NSP进行联合预训练;接着在此基础上采用二次预训练和学习率逐层衰减的方式对预训练模型进行微调,并选用Dropout正则化的方式防止过拟合;然后输入Softmax分类器进行分类预测;最后在IMDB和SST数据集上进行实验,并与其他多种现有模型进行比较.实验结果表明,在没有复杂架构影响的条件下,该模型的预测效果明显优于其他语言模型,同时也证明了迁移学习可以有效提升情感分析模型的预测准确性.
其他文献
为了解决用户点餐时推荐菜品不准确的情况,设计面向移动终端网络的在线快餐智能推荐系统.在系统整体结构中,数据层将用户信息和菜品信息传递到应用层,应用层综合用户历史点餐
针对标准鸡群算法在求解复杂优化问题时存在求解精度不高、易陷入局部最优等问题,提出一种采用自适应搜索和变异策略的改进鸡群算法(ICSO-ASV).该算法通过使用改进双控制系数
针对电网扰动信号检测中噪声引起的干扰问题,传统的软、硬阈值方法去噪效果不理想,文中提出一种改进阈值函数结合自适应调节阈值的去噪新算法.采用该算法同传统软、硬阈值函
《全日制义务教育数学课程标准》指出：“有效的数学学习活动不能单纯地依赖模仿与记忆，动手实验、自主探索与合作交流是学生学习数学的重要方式。”“教师应激发学生的学习积极性，向学生提供充分从事数学活动的机会，帮助他们在自主探索和合作的过程中真正理解和掌握基本数学知识与技能、数学思想和方法，获得广泛的数学活动经验。”同时又指出：“学会与人合作，并能与他人交流思維的过程和结果。”由此可见，“课程标准”是非常