非高斯统计模型的可拓展变分推理方法研究

来源 :北方工业大学 | 被引量 : 0次 | 上传用户:youyou061017
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
有限混合模型由于其对数据的强大拟合能力,成为统计机器学习中重要的数据建模工具,在模式识别、计算机视觉以及数据挖掘等领域都有着众多的应用前景,近些年来得到了研究者们的广泛关注。然而,传统的有限混合模型主要是用高斯分布构建的,对于现实生活中产生的一些特殊数据,例如文本,图像等有界数据,以及一些其他领域的非对称数据等不能很好地进行描述。因此急需使用一些由非高斯分布构建的有限混合模型解决上述问题。在这些非高斯混合模型中,逆贝塔刘维尔混合模型由于其对有界数据中正矢量数据的良好建模能力,得到了大量的研究。然而传统的混合模型训练方法,例如期望最大算法以及马尔科夫链蒙特卡洛方法等有着很大的不足,无法实际应用于该模型的训练,进而解决现实问题。本论文针对上述问题,提出了一个完整的逆贝塔刘维尔混合模型的变分推理框架。该框架可以同时解决模型训练中的参数估计以及模型选择问题,使该模型能够高效的应用于现实场景中。针对大数据时代数据快速增长的现状,本文在逆贝塔刘维尔混合模型变分推理框架的基础上进一步改进,提出了该模型的随机变分推理框架,该框架可以解决大数据下传统变分推理框架所暴露出的问题,表现出了更加优秀的性能。为了验证上述两个框架的有效性以及实际应用价值,本论文采用人体动作识别以及商品检测两个真实场景下的应用对该模型及其相关推理框架进行实验测试,并与现在主流的全连接神经网络做对比。实验结果表明,所提出的两个框架具有良好的性能以及较大的实际应用价值。
其他文献
预焙阳极的质量对铝电解有重要意义,而阳极生产是个十分复杂的工业过程,其中会有大量数据伴随产生,通过研究和分析这些数据可以深入挖掘潜在价值。在铝电解预焙阳极生产过程中,生阳极体积密度是反映预焙阳极质量的重要指标,通过生阳极生产的工艺控制参数预测生阳极体积密度,对保证阳极的质量具有重要意义,预测的结果也能为相关人员调整工艺参数提供参考依据。本文主要完成了以下工作:1.本文针对生阳极生产过程的非线性特点
学位
作为解决现代互联网信息过载的有效工具,推荐系统能为广大用户提供个性精准的信息来源和决策依据,正在融入越来越多人的日常生活。数据稀疏是目前推荐系统面临的主要问题之一。在深度学习得到飞速发展的今天,对特征的高效提取和有效融合是一个值得深入的研究方向,这为缓解数据稀疏问题提供了有力支持。本文旨在研究如何将深度学习的非线性建模能力与传统推荐算法的线性建模能力相融合,由此使得算法兼备线性模型的快速搜索能力和
学位
本文基于“教—学—评”一体化的教育理念,全面解析义务教育语文课程“语言运用”核心素养的学习目标、测评趋势以及教学方向。首先,通过梳理义务教育语文课程标准与统编初中语文教材中“语言运用”核心素养的课程目标与内容要求,明确该素养的学习目标是理解语言文字,发展语用能力。其次,通过分析近五年来语言积累与运用评价的中考测试,总结出“语言运用”核心素养测评“设置语言实践活动,考查学生语言积累与运用真实过程”的
期刊
会话问答即多轮问答任务,是对话式人工智能的重要组成部分。给定一篇文章和相应的一段对话,会话问答任务需要回答对话中的下一个问题。使整个对话更加流畅连贯。会话问答任务的机器学习模型不仅需要考虑当前的问题,而且还需要结合上下文对话历史信息。但是由于上下文篇幅较长,如何对复杂的信息进行高效特征提取,一直是会话问答任务的重大难题。现有的方法通常会对其经过多层LSTM处理,将特征向量进行拼接,很容易产生冗余信
学位
光谱响应函数作为卫星传感器里一个重要的参数,体现了各个光学元件的反射和透射特性,还包含了传感器的光谱响应特性的综合性能,更是决定了传感器对辐射的光谱响应特性,直接影响着传感器的定标精度和定量应用能力。气象卫星传感器发射前在地面实验室通过光谱校准获得的光谱响应函数是不准确的,而且在太空中运行的过程中光谱响应函数会以未知的方式发生退化,这两种现象都会严重影响卫星辐射定标工作的精准完成。这就需要提出一种
学位
大数据时代,许多领域需要利用机器学习技术进行数据分析。但是机器学习模型构建过程复杂且耗时,如果不具备专业机器学习知识的领域专家可以根据业务需求自行构建模型,可以降低机器学习的使用门槛,提高工作效率。目前,已有很多研究提供可视化流程建模工具,建模人员可通过组合数据分析相关服务构造数据分析流程。进而,AutoML(Automated Machine Learning)工具还可根据数据及任务,自动化组合
学位
在线新闻服务平台如今日头条、微软新闻等已成为广大用户获取新闻信息的主要来源。网上每天生成和发布了海量的新闻文章,导致用户很难快速找到感兴趣的新闻。然而个性化新闻推荐可以帮助用户缓解信息过载,提升新闻阅读体验,因此在众多网络新闻平台中得到广泛应用。新闻推荐中两个关键点分别为新闻文章表示和用户兴趣建模。对于新闻文本的表示,本文采用改进过的transformer模型并融合新闻类别信息去学习得到新闻文章表
学位
推荐系统和聚类是两种应用广泛的数据挖掘技术。推荐系统可以帮助用户高效、有效地获取有用的在线资源,聚类技术能够降低数据的高维度和稀疏度,尽可能地将相似的对象聚类在一起,将不同的对象分开。近年来,在进行推荐之前,将具有相似特征的用户或者项目进行分组已经成为一种趋势,以此提高推荐质量。本文分别从优化常见聚类的缺点和消除聚类的关键性参数角度提出了聚类与推荐算法结合的思路,即基于聚类和模拟退火的协同过滤算法
学位
氧化铝高温溶出工序是氧化铝生产中重要的组成环节,具有多种因素相互作用的特点,其中溶出温度是影响溶出质量最重要的工艺指标,仅依赖生产人员难以对溶出温度做到精准决策控制。通过对氧化铝企业溶出环节实际工艺流程的研究和对大量的历史数据进行分析,本文采用深度强化学习算法对氧化铝溶出环节的溶出温度进行决策,从而提高溶出质量。(1)对企业提供的溶出环节相关原始生产数据进行缺失值、异常值处理和可视化分析,并使用X
学位
深度神经网络(DNN)可以有效地从海量复杂数据中提取重要的信息,已被广泛应用于图像识别、语音识别及自然语言处理等领域。但这些神经网络使用时会带来较大的计算和内存开销,限制了在资源有限场景下的使用。传统的CPU与GPU处理器,由于其硬件架构中计算与内存单元的容量限制,无法满足很多应用场景对DNN算法的高性能与低能耗的要求。因此,研究者们提出在现场可编程逻辑门阵列(FPGA)上设计适应神经网络算法的硬
学位