基于预训练模型的人脸图像盲复原方法研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:fuyaomama
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数字成像设备的快速发展,图像是视觉信息的载体,在日常生活中扮演着重要的角色,有记忆、存储、分享视觉信息的作用。但是在其采集、分享、存储时,由于成像设备差、外界环境变化、采集方式不当等原因,不可避免地使图像发生不同程度的失真,导致视觉观感差,应用受限等问题。为打破图像应用的局限,图像复原技术被提出,旨在恢复低质量图像中高频信息。人脸盲复原作为图像复原的特例,在日常生活、工业生产中扮演着重要的角色,同时对后续人脸识别、人脸编辑等工作具有重大意义。近年来,因对抗生成网络具有生成逼真图像的能力,被广泛用于人脸图像复原任务中。基于人脸先验的盲复原任务可描述为低质量图像空间到高质量图像空间的映射,引入编码器来学习低质量图到隐空间的逆映射,预训练的对抗生成网络完成隐空间到高质量图像的映射。为保证图像的复原质量,先前的方法对隐空间进行一系列拓展,使编码器尽可能地拟合低质量图像,映射到准确的隐码空间。尽管取得了开创性的进展,提升了复原性能,但是仍然存在不足,例如GPEN方法在隐空间Z的基础上,引入噪声空间,极大改善了复原后人脸的纹理细节,但引入噪声太强,可能生成不准确的纹理信息,图像会趋于锐化;GFPGAN方法复原效果得到大家一致好评,但是由于低质量图像映射到隐空间不完全准确,可能发生改变人脸结构的现象,比如对于抿嘴的图像,复原出不是抿嘴的形状。总而言之,人脸盲复原任务仍存在改善的空间,本文从改善隐空间、采用局部特征拟合、增强侧脸复原三个角度进一步完善人脸盲复原性能。首先,基于预训练模型的人脸复原任务通过隐空间学习低质量图像空间到高质量图像空间的映射。隐码作为桥梁,需充分地表示低质量图像中的身份信息、特征信息,以在预训练模型的作用下复原得到高质量图像。为改善现有方法因映射不准确导致复原时发生结构变化等问题,本文基于Transformer方法提高了映射的准确度;提出采用同一张图像的不同退化隐码和高质量隐码作对比学习约束,进一步提高了映射的准确度,为改善复原结果的纹理、增强背景信息,在隐空间W+的基础上,使用噪声空间和P空间提升了复原质量。其次,在解决人脸盲复原问题上,现有方法将退化人脸图像逆映射到隐空间,当遇到退化严重的情况时,整体图像可能因为拟合困难,复原图像的结构发生变化,例如眼睛的大小、嘴巴开张等特征。为此,本文将整体人脸图像细分为显著性局部区域特征进行分别拟合,相比对整体图像拟合,这种方式由于局部特征包含结构信息少且更为精细,使得低质量图像映射更容易,一定程度上改善了复原质量。具体将人脸盲复原问题分解为局部区域特征的复原和整体人脸复原两个分支,首先使用Style GAN学习部位特征先验,然后将其作为生成器嵌入到图像复原模型中,完成部位图复原,得到高质量的部位复原图,最后复原整体人脸图像时,融合部位图复原的结果,输出最终的结果。最后,目前复原方法大部分采用基于数据驱动的深度学习方法,当测试数据与训练数据分布不一致时,预测结果不可避免地倾向于训练数据集分布,例如人脸复原方法面对侧脸低质量图像输入时,可能输出正脸,也可能得不到清晰的复原图。为此,本文首先改善数据集分布,不仅收集了真实的侧脸图像,还通过Inter Face GAN方法收集了较好的正脸隐码和侧脸隐码,及其对应的图像,使不同姿态的数据分布平衡。在方案设计上,通过门控网络灵活地处理不准确的侧脸隐码,即对其进行矫正操作。为了验证本文方法复原性能,与目前有特色且复原效果很好的方法DFDNet、PSFRGAN、GPEN、GFPGAN做了对比实验,使用退化模型生成低质量图像进行测试,采用量化指标PSNR、SSIM、LPIPS、FID评估复原结果,相比而言,本文方法的复原结果纹理细节丰富,噪声伪影比较少,复原前后结构更加一致。为了验证本文方法在真实低质量数据的鲁棒性,测试了真实的数据集,结果表明本文方法的复原效果优于其他方法,且具有更好的泛化性能。
其他文献
从大环境来看,我国经济转向高质量阶段,广东作为改革开放的先行者,经济总量连续32年领跑全国,珠三角核心区发展能级不断扩大,“双区驱动效应”不断增强,经济综合实力迈上大台阶。“双循环”新发展格局加速构建,受被动调迁、资产重组、成本驱动等因素影响,“世界加工工厂”的四大巨头——深圳、东莞、广州、佛山向外产业转移进一步加速,产业外溢现象愈加明显,为周边城市、卫星城市和工业园提供发展机遇。新时代下,产业和
学位
广东省医疗资源分布不平衡,优质医疗资源主要集中在珠三角地区,东翼、西翼和山区较匮乏,城乡差距较大,小县城的患者争相前往大城市就医,造成大城市的三甲医院人满为患,“一号难求”,难以满足广大人民群众看病就医需求。为了推动优质医疗资源下沉,实现“家门口”就医,2018年底,广东省在一系列帮扶政策指导下启动医疗卫生人才“组团式”紧密型对口帮扶工作,组织14家三甲医院对口帮扶县级医院。虽然取得了一定成效,但
学位
食品安全与人民群众身体健康息息相关。国家领导人曾提出“四个最严”要求,务必从严做好食品安全方面监管工作,推动食品安全高水平治理。近年来,随着“乡村振兴”战略不断推进,农村地区餐饮业迅速发展。但是,农村地区餐饮业普遍存在硬件设施差、经营者主体责任意识欠缺、消费者维权意识不强、食品安全行政监管效率低、监管成效不明显等诸多问题,难以匹配新阶段人们对食品安全卫生提出的新要求。本文主要研究韶关市乳源瑶族自治
学位
城市发展由“增量发展”转向“存量更新”,由简单粗暴的增“量”转向有涵养的提“质”。粗放式发展导致城市中出现公共空间品质相对下降这一现象,人为的主观行为降解了环境给予的自然空间,伴随而来的即是城市公共空间品质的下降。空间品质的量化测度的兴起为城市空间品质的微更新提供了一种全新的视角,这样的视角如若用到少数民族集聚地进行测度是否可以进行?本次研究基于自采集街景数据对香格里拉市独克宗古城空间品质进行测度
学位
改革开放以来,我国经济高速增长,社会发展日新月异,地方政府的事权也随之增加,但同时财权和事权越来越不匹配的问题更加突出。“营改增”的全面实行使得地方原有的支柱性税种不再存在,剩下的地方性税种中与房地产相关的税种也难以担当起筹足地方财政收入的重任,导致国内大部分城市都需要依靠土地出让金来解决财政收入不足的困境,土地财政依赖度越来越高。从2017年财政部部长肖捷的《加快建立现代财政制度》到2020年中
学位
随着社会经济的发展,生活水平的提高,人们对于儿童用品质量安全的关注与要求正在不断提升。传统的政府一元监管模式面临着有效性与效率,成本与收益这两组矛盾,如何充分发挥多元主体的治理监管作用,运用多种监管工具提升监管效能,是一个值得探究的课题。公共治理理论为优化深圳市儿童用品质量安全监管模式,提升政府治理水平提供了新思路。本文基于“理论分析—问题情况调查—深层根因分析—理论支撑—提出优化方案—提供保障措
学位
市民参与政府工作公共决策是民主政治进步的重要体现,完善的市民参与机制是市民参与的重要基础。探索设计公共事务领域决策市民参与机制,实现涉及民众切身利益的政府决策从“为民做主”到“由民做主”,促进政府决策透明化、民主化是必要的,具有一定的现实意义。福田区民生实事项目原先在政府内部决策的模式下运行,市民仅参与意见建议环节,市民参与感不足。但此类民生领域项目涉及到市民切身利益,市民体验感强烈,将市民身边事
学位
中小微企业的可持续发展可解决社会就业问题,促进我国的经济发展。在2020年疫情持续反复爆发。中小微企业的发展中招工难、经营难、融资难等问题进一步凸显,此时来自政府的政策扶持对于促进中小微企业发展具有至关重要的作用。而深圳市区域性股权市场是深圳市政府落实中小微企业优惠政策的综合服务平台,因此,本文研究围绕深圳市区域性股权市场对中小微企业扶持政策的执行、优化与评价的核心议题展开探讨。本文以深圳市区域性
学位
作为国民经济的支柱行业,房地产业涉及行业众多、涉及范围广泛,不仅包括前期的土地获取、施工建设,还包括后期房产的销售交付、物业服务管理等。由房地产业引发的社会风险往往与人民群众的利益息息相关,如征地拆迁补偿、农民工讨薪、环境污染等。一旦相关利益群体利益受损,就极易激发群众的不满情绪,导致社会纠纷事件的发生。不少纠纷的当事人处于相对弱势的处境,为保障自身利益不受损害,往往会采取非理性的方式甚至某些过激
学位
通过遥感数据确认月球极区水冰的存在后,各国相继提出了针对水冰的探测任务。在进行月球永久阴影区水冰探测的过程中,不可避免地要与月壤水冰发生相互作用,而目前对月壤水冰的静力学特性,特别是抗剪特性和抗压特性的认知不够深入,制约了探测任务的开展。本文以模拟月壤为基材,开展试验探究低温环境下月壤水冰模拟样本的抗剪特性和抗压特性,构建了其力学本构模型,使用离散元分析了样本宏观力学响应的微观机理。本文的研究成果
学位