矩阵广义逆高斯分布在多任务学习中的应用

来源 :浙江大学 | 被引量 : 0次 | 上传用户:wangxiaofengkobe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在传统的机器学习方法中,单一任务训练集不充分的难题限制了学习算法的应用。而多任务学习方法能通过对任务关联关系的发掘在一定程度上解决这一问题。本文在矩阵统计学研究的基础上,使用矩阵广义逆高斯分布(Matrix Generalized Inverse Gaussian distribution, MGIG分布)对任务关联矩阵进行建模,并对模型在多任务学习中的应用进行了研究。本文首先引入MGIG分布的定义并详细讨论了其统计特性。为了克服MGIG分布统计量无闭合表达式造成的计算困难,本文提出了两种采样策略进行计算。在此基础上,本文提出了利用回归矩阵低秩逼近进行多任务学习的高斯矩阵广义逆高斯模型(Gaussian Matrix Generalized Inverse Gaussian model, GMGIG模型)。进而在该模型上引入残差结构得到用于多任务学习的GMGIG回归模型。通过实验验证了GMGIG回归模型在回归和预测上比同类多任务学习算法优越。本文通过使用MGIG先验构建回归矩阵后验分布的方式,提出了一种新的多任务学习方法,贝叶斯多任务关系学习(Bayesian Multi-task Relationship Learning, BMTRL)方法。并通过引入样本间的连接结构作为约束,构建了具备连接结构的贝叶斯多任务关系学习(Bayesian Multi-task Relationship Learning with Link Constraint, BMTRL-LC)方法。为了克服计算上的困难,本文结合使用凸优化方法和随机EM算法对上述两个方法引入的优化问题求解。通过实验验证了BMTRL和BMTRL-LC在三组实验数据集上比同类多任务学习算法优越。
其他文献
随着信息产业和计算机技术的快速发展,数据流在工业产业中的地位越来越重要,基于数据驱动的建模和控制方法受到了学术界和工业界的广泛关注。大量数据带来的一个很自然的问题
随着信息技术的不断发展,计算机网络已经成为现代通信技术的核心,被应用在生活中的方方面面。网络化控制系统则将网络的概念引入到了控制系统中,利用网络来连接控制系统中的
<正> 生产生物制品需大量的水溶性药物溶媒,所需水的生产有两种方法,即蒸馏法和离子交换法。生产去离子水的关键环节是树脂再生,而树脂再生时的酸碱浓度对去离子水的生产有一
以氧化钌温度传感器(RX-202A)为研究对象,研究了其在0~16 T磁场下、2~40 K温区内的磁致电阻效应。结果表明:RX-202A的磁效应随场强的升高而升高,随温度呈波动变化,在低温区先由正效应转变为负效应,后又随温度的升高而逐渐降低,并逐渐趋于0,RX-202A在2.1 K、16T处的磁效应为0.83;RX-202A由磁效应引起的测量误差随温度呈波动变化,在2.2~10K温区随场强的变化差
我国自开征水资源费以来,因制度设计的瑕疵未能充分发挥其促进节约用水的作用。自2016年起我国开始进行水资源费改税试点,在内容设计上制定了更精细的差别税额标准及减免政策
不少家长为孩子的习作而烦恼,教师要经常开展家长、学生、老师间进行互动的循环日记之"爱的桥梁"的活动,打开孩子们的心灵之窗,为其写作增添素材。
高温超导电缆层间电流分布不均是超导电缆研究的重要问题之一,调整电磁结构是使其各层电流分布趋于均衡的有效途径。文中建立了电缆本体的电路矩阵方程,分析了导电层电流及其产