基于双重对抗网络的半监督学习模型研究

来源 :天津大学 | 被引量 : 0次 | 上传用户:titaige
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在训练大量标记数据时,深度神经网络显示出其在广泛的监督学习任务上的出色性能。然而,创建如此大的数据集需要相当多的资源。为了克服对大型注释数据集的需求,对半监督的研究以及其在深度神经网络中的应用不断增加,以减少所需的标记数据量。对抗式神经网络在无监督领域学习数据分布能力已经达到十分优秀的效果,越来越多的研究人员将对抗系统运用在半监督学习问题上并取得了不错的效果;本文主要的工作内容如下:第一,通过对实验结果的研究分析得出常规半监督对抗生成网络(SGAN)图像分类问题中存在的两个问题,并从最大熵原理出发分析了SGAN图像分类问题中的损失函数,并且给出了无标签数据在半监督生成对抗网络训练过程中的信息提取流程。第二,针对传统SGAN图像分类问题中生成器中只是尽可能生成靠近原数据分布的大量数据,无法控制正在生成的数据的模式,使得大量生成数据不能够充分利用造成数据浪费,本研究通过对半监督条件生成的实验,验证了条件生成模型能够利用生成已经给定标签的图像数直接对判别器进行分类训练,从而进一步利用生成的图片数据对判别器进行训练。第三,由于SGAN图像分类问题中模型对无标签数据训练形式过于单一,引入了虚拟对抗训练(VAT)单独对无标签数据进行二次信息提取,二次利用无标签数据对判别器进行在训练,提升模型对于无标签数据的信息利用率,以此提高了分类器的分类精度以及模型的鲁棒性。最终本研究在条件半监督GAN(SCGAN)的基础上结合了VAT技术提出了一种结合虚拟对抗训练和条件生成对抗网络的双重对抗条件生成深度半监督模型(BSCGAN)。双重对抗条件生成深度半监督模型在MNIST,SVHN,CIFAR10数据集的实验结果表明,能够达到较好水平的分类表现。其中模型在MNIST、SVHN、CIFAR10数据集上分别最多利用全数据集的0.14%、2.0%、6.0%做为有标签数据,在测试数据集上分别能够达到98.52%、95.49%、85.32%的预测精度。
其他文献
<正>市面上售卖的食用菌真的含有甲醛吗?食用这些食用菌是否会危害健康呢?近日,网络上出现了一股用室内甲醛检测试剂盒测试食用菌甲醛含量的热潮,许多博主纷纷下场测评,并将检测结果以视频形式发布出来。视频中很多博主都声称在香菇、白玉菇和金针菇等食用菌上检测到了甲醛,许多观众看到后直呼心惊,并对食用菌产生了恐惧心理,害怕食用了这些含有甲醛的食用菌会致癌,纷纷扬言再也不敢吃食用菌了。
期刊
被动式定位(Device-Free Localization,DFL)不需要目标携带任何辅助设备,非常适合于医疗保健服务、紧急救援行动或智慧城市等领域。射频层析成像(Radio Tomography Imaging,RTI)是一种基于接收信号强度(Received Signal Strength,RSS)的被动式定位方法,它将无线网络中物理对象引起的衰减场创建为一个图像。RTI具有良好的实时性,不
学位
热致变色智能窗通过对温度的实时响应智能地调控进入室内的太阳能辐射量,保持室内的热舒适性,对于建筑物能耗的降低、能源的节约意义重大。二氧化钒(VO2)在热激发作用下,在68℃产生半导体相到金属相的可逆相变,同时伴随着近红外光波段透过率的显著变化,这使得VO2成为应用在热致变色智能窗中的理想材料。然而,VO2薄膜的太阳能调制效率不足(<10%)、可见光透过率低(<60%),难以同时满足室内照明和节能的
学位
MEMS(微机电系统)面内运动测量技术用于表征器件在二维运动过程中的瞬时状态,并记录其在运动过程中的变化细节,对于MEMS器件的设计开发以及生产制造都具有重要意义。MEMS面内运动具有幅度小,频率高的特点,因此传统的显微视觉方法难以应对MEMS的动态特性测量。本论文在前人研究的基础上,设计实现了一套MEMS器件面内微运动图像采样系统,并基于机器视觉技术中的光流法对MEMS面内微运动特性进行了分析研
学位
情感分析作为定量画像的一种实现方法,是当前人物画像研究的主要内容。社交账号作为人的线上映射,且其数据本身具有数据量大、易获取的特点,因此目前有大量学者依托于社交媒体数据开展人员画像研究。然而,社交媒体数据充斥着大量的混合语言文本,其建模难点包括:非英文语料的匮乏导致训练得到的模型性能较差;混合文本间的隐式信息难以被模型识别。针对这些问题,本文的主要工作和贡献如下:首先,提出了一个混合语言舆情文本的
学位
随着科技水平的不断提高,人们对电子器件的功能需求也不断增加。柔性电子器件因其高可延展性、高可弯曲性、高表面适应性等特点,受到了研究者的广泛关注,在机器人电子皮肤、可穿戴设备、非植入式医疗监测等领域具有很大的应用前景。本论文主要围绕柔性压力传感器这一柔性电子器件展开研究,研究其结构设计、制备工艺和应用,主要包括以下三个部分:(1)基于多级山脊微结构的离子凝胶介电层的设计与制备。为解决传统独立结构修饰
学位
<正>1997年夏天,我怀着梦想成真的喜悦,成为一名光荣的人民教师。踏进教室的那一刻,我激动得心怦怦直跳,望着一双双渴望求知的眼睛,我暗暗立下誓言:爱岗敬业,立德尽责。用师爱,做学生成长路上的引领者我当时任教的是一所农村中学。面对学生的个体差异,我常常束手无策,最初的教学之路走得可谓跌跌撞撞。记得刚开始教数学时,常常是一道题讲了好几遍,个别学生还是不会,
期刊
超宽带(Ultra-Wideband,UWB)技术由于其具有传输速率高、功耗低、高精度测距等优点,被广泛地应用于室内定位领域。作为UWB无线通信系统中收发器重要的一部分,UWB天线的研究随着近年来现代通信技术与柔性电子技术的兴起,开始向着小型化与柔性方向发展。与此同时,为了避免UWB系统中潜在的干扰,在UWB天线设计中考虑陷波特性也是有必要的。本论文主要研究了柔性UWB天线的小型化和陷波技术,并在
学位
目前转录因子和DNA结合位点在生物信息学中是大家比较关注的一个研究方向,它对于了解生物体的转录、翻译过程至关重要。转录因子和DNA的结合位点决定着下游基因的转录和翻译,调控着整个转录翻译过程中的关键过程,对这段转录基因和非编码区域的研究,对于了解生命体的正常生命活动和完整生命过程有着十分重要的意义。转录因子和DNA的结合位点是一段核苷酸序列,这段核苷酸序列的长度通常是8-mer到16-mer长,这
学位
动态网络化的多组织企业形式已成为企业发展的必然趋势,使用传统ERP系统无法满足企业组织方式与商业模式的重大变更,在处理销售业务时,存在无法实现组织间业务往来的实时反映与财务记账、不能满足业财融合处理需要等问题。使用云ERP系统后,系统以销售订单为主线进行业务的跟踪,各组织根据凭证模板自动生成财务凭证,能实现集团内部各组织间的内部结算,生成集团合并报表。文章分析了传统ERP系统处理销售业务存在的不足
期刊