深度生成模型综述

来源 :自动化学报 | 被引量 : 0次 | 上传用户:hellogph
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
通过学习可观测数据的概率密度而随机生成样本的生成模型在近年来受到人们的广泛关注,网络结构中包含多个隐藏层的深度生成式模型以更出色的生成能力成为研究热点,深度生成模型在计算机视觉、密度估计、自然语言和语音识别、半监督学习等领域得到成功应用,并给无监督学习提供了良好的范式.本文根据深度生成模型处理似然函数的不同方法将模型分为三类:第一类方法是近似方法,包括采用抽样方法近似计算似然函数的受限玻尔兹曼机(Restricted Boltzmann machine,RBM)和以受限玻尔兹曼机为基础模块的深度置信网络(Deep belief network,DBN)、深度玻尔兹曼机(Deep Boltzmann machines,DBM)和亥姆霍兹机,与之对应的另一种模型是直接优化似然函数变分下界的变分自编码器以及其重要的改进模型,包括重要性加权自编码和可用于半监督学习的深度辅助深度模型;第二类方法是避开求极大似然过程的隐式方法,其代表模型是通过生成器和判别器之间的对抗行为来优化模型参数从而巧妙避开求解似然函数的生成对抗网络以及重要的改进模型,包括WGAN、深度卷积生成对抗网络和当前最顶级的深度生成模型BigGAN;第三类方法是对似然函数进行适当变形的流模型和自回归模型,流模型利用可逆函数构造似然函数后直接优化模型参数,包括以NICE为基础的常规流模型、变分流模型和可逆残差网络(i-ResNet),自回归模型(NADE)将目标函数分解为条件概率乘积的形式,包括神经自回归密度估计(NADE)、像素循环神经网络(PixelRNN)、掩码自编码器(MADE)以及WaveNet等.详细描述上述模型的原理和结构以及模型变形后,阐述各个模型的研究进展和应用,最后对深度生成式模型进行展望和总结.
其他文献
北京国际文化硅谷园位于北京朝阳区,工程场区以粉质黏土、粉土与砂土交互沉积为主,且地下水水位较高.该工程纯地下车库区域因自重不满足抗浮要求,采取了抗浮桩措施,同时主楼地基承载力不足,采用了复合地基,形成主楼复合地基+纯地下抗浮桩的型式.需要考虑主楼与纯地下车库,以及主楼的核心筒与外框架柱之间的差异沉降.通过基于地基与结构相互作用的差异沉降变形计算分析,验证控制与协调不均匀沉降的工程措施,设计选择合理的CFG桩持力层,调整主楼CFG桩桩间距、褥垫层厚度而调整地基刚度,并依据差异沉降计算分析优化调整抗浮桩的布置
通过对某过渡期基坑工程的第三方检测和动态监测数据分析,修正支护结构设计参数和地层参数,计算基坑整体稳定性,定量判断与定性分析相结合,从而对过渡期基坑进行全面、客观、准确的风险评估,针对性提出加固措施,保证基坑延期使用条件下的可靠性.
以天津滨海核心区为例,对滨海地区地下潜水的工程特性进行了研究,查清了滨海核心区潜水富水层、潜水含水层的岩性组成、空间分布以及渗透性能,分析了滨海核心区潜水水位现状及其动态变化规律,给出了滨海核心区Cl?、SO42?等常用水质简分析指标的范围值,并对其水质现状进行评价.研究结果表明:(1)滨海核心区潜水水位埋藏深度较浅,多分布在Q43Nal层、Q41al层以及Q42m层粉土等富水层中,厚度一般小于6 m,其含水层的渗透系数一般在0.1~0.6 m/d,为弱透水性;(2)滨海核心区潜水水位年内动态随季节变化呈
砂卵石层作为地基持力层具有压缩性低、承载力高的优势,然而砂卵石地层又具有稳定性差、无黏聚力、渗透性强、硬度高、级配差异大等特点,地铁勘察、施工难度较大.以北京地铁19号线一期工程为依托,介绍钻探、探井、物探、原位测试、室内试验、现场抽水试验、地下水流向流速测定等综合勘探手段在查明砂卵石地层的密实度、颗粒级配、地层强度等特征以及地下水的赋存状态的应用,为隧道设计、施工提供依据,同时也为砂卵石地层勘察提供借鉴.
沿海软土地区某料棚工程采用变截面挤密螺纹桩复合地基,在堆载高度到5~6 m时,未达到设计高度11 m,地面产生沉陷,最大沉陷量约1.30 m,网架立柱出现了较大的变形,最大水平位移超过680 mm,导致料棚处于超危状态.采用竹节桩对挤密螺纹桩复合地基进行加固,通过合理布置竹节桩打桩流向,采用长螺旋引孔、应力释放孔,减小竹节桩沉桩的挤土效应对原有挤密螺纹桩、边柱承台和基桩的影响.沉桩结束后,竹节桩单桩竖向承载力特征值不小于740 kN,满足竹节桩设计要求.加固后的竹节桩复合地基+筏板满足堆载的设计要求.
基于移动机器人的拣货系统(Robotic mobile fulfillment systems,RMFS)作为一种新型物至人的拣货系统,相比人工拣货系统和AS/RS拣货系统(下文统称传统拣货系统)具有更高的拣货效率、更好的系统可扩展性和柔性.为全面了解RMFS的运行模式及其优化方向,本文首先回顾了RMFS的工作流程及优化理论框架,然后对RMFS的货位指派、订单分批、任务分配、路径规划以及建模方法等问题进行了文献回顾和总结,并指出了RMFS与传统拣货系统在拣货过程方面的异同及当前研究的不足.最后,讨论了RM
我国胶东地区广泛分布白垩系泥岩地层,其具有遇水软化、膨胀,失水收缩、崩解等工程特性,岩体抗剪强度的准确确定对该区域基坑、边坡稳定性设计和施工具有重要意义.通过开展现场岩体抗剪试验和室内岩石直剪试验,得出岩体与岩石内摩擦系数和内摩擦角基本一致,岩石黏聚力是岩体黏聚力的10.6倍,分析二者差异原因主要有岩石直剪试验岩样代表性差、扰动大、数据离散性大、尺寸效应和试样完整性差异等,现场岩体抗剪试验得出的岩体抗剪强度参数更能真实反映岩体实际工程性质,可用于工程设计和优化.
水泥固化砂土的低成本、无害化改良是岩土工程领域的热点问题.利用废弃服装制备的涤纶纤维对水泥固化砂土进行改良,研究纤维含量和纤维长度对水泥固化砂土无侧限抗压强度特性的影响.基于试样的宏观破坏形貌,定性分析改良前后水泥固化砂土的破坏模式及破坏模式的转变方式,利用脆性指数,研究纤维含量、纤维长度影响下水泥固化砂土破坏模式的转变规律,定量评价脆性破坏向延性破坏的转变程度.研究结果表明:在最优纤维含量1.0%、最优纤维长度9 mm条件下,废弃涤纶纤维的改良效果最佳,水泥固化砂土的无侧限抗压强度、峰值应变、残余强度、
隧洞穿越地区地形复杂,隧洞工程勘察难度大,钻机施工困难,物探工作难度大,快速有效地开展工程勘察安全性评价工作对后期施工具有重要意义.以某项目为依托,综合利用以往地质资料,采用温纳和斯伦贝谢两种装置高密度电法工作,分析其不同装置高密度电法工作原理及应用效果.温纳装置探测深度较大,横向分辨率较高,高阻异常体特征反映较明显;斯伦贝谢装置探测深度相对较浅,其垂向分辨率较高,抗干扰能力强,低阻异常体反映较明显.
虽然深度神经网络(Deep neural networks,DNNs)在许多任务上取得了显著的效果,但是由于其可解释性(In-terpretability)较差,通常被当做“黑盒”模型.本文针对图像分类任务,利用对抗样本(Adversarial examples)从模型失败的角度检验深度神经网络内部的特征表示.通过分析,发现深度神经网络学习到的特征表示与人类所理解的语义概念之间存在着不一致性.这使得理解和解释深度神经网络内部的特征变得十分困难.为了实现可解释的深度神经网络,使其中的神经元具有更加明确的语义