基于同态加密与神经网络的隐私保护深度学习方法研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:zwb19831101
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在大数据的推动下,深度学习在各个领域展现了优异的成果,涵盖医疗卫生、金融投资、商品买卖、移动认证等等。深度学习的成功应用案例都是使用了海量有价值的数据,而这些数据都或多或少的存在个人隐私,例如用户兴趣爱好、家庭情况、生活习惯等,这些敏感信息一旦泄露,将会造成不可预估的财产和生命安全问题。因此,深度学习中的隐私保护以及安全问题是一个重要的研究课题。隐私保护深度学习的目的在于通过使用隐私保护策略来对深度学习中的数据、模型进行处理(例如,加密算法、差分机制、噪声添加等),保证数据使用的安全性和模型应用的高效性。本文针对神经网络的隐私保护问题展开研究,分别从加密算法和模型鲁棒性两个角度提出了三种隐私保护深度学习的方案,主要研究工作包括:(1)提出了一种基于高效整型矢量的同态加密框架。从加密算法的角度展开研究,该框架通过使用同态加密算法来加密数据集然后训练和测试模型,该加密算法的核心是使用密钥交换技术和函数多项式化来实现全同态加密,在保证不添加多余噪音的前提下,完成非多项式函数加密和密文的代数运算。实验在MNIST数据集上进行测试,对训练集精确度、测试集精确度、时间开销、周期等参数进行了对比实验,并针对精确度的最大提升提出了数据取绝对值的方法。结果表明,同态加密可以实现神经网络内部的隐私安全。(2)提出了一种基于欺骗深度网络的梯度算法。从模型鲁棒性的角度展开研究,为不造成人类视觉层面的误导,保证用户使用的合理性,从计算机层面欺骗神经网络,验证模型的鲁棒性。该算法基于DeepFool算法为标准,将常规的梯度下降算法改进为梯度上升算法,并引入欧几里得范数来更新特征矢量,将原始数据的标签对应的特征矢量更新为其他类型数据的标签对应的特征矢量。实验中,通过与三种知名的算法L-BGFS、FGSM、DeepFool进行对比研究,同时将算法分别应用于深度神经网络和卷积神经网络进行实验,并使用标准数据集MNIST和Fashion-MNIST进行测试。结果表明,该算法可以降低神经网络精确度,验证并改善模型的鲁棒性。(3)提出了一种基于扰动方向性的高斯噪声算法。进一步从模型鲁棒性的角度展开研究,该算法在第二项工作的基础上进行更深层次的挖掘和研究,改善欺骗深度网络的性能,加强深度网络模型内部的隐私安全。该算法提出了扰动具有方向性的假设,并给出了在二分类任务和多分类任务情况下的证明。根据扰动具有方向性的特征,基于DeepFool算法进行改进并引入高斯噪声到更新策略之中,从而得到GNDF算法。通过将GNDF算法应用到三类标准数据集MNIST、Fashion-MNIST、ISLVRC 2012上进行实验评估。结果表明,该算法相比原始算法,进一步降低了模型的精确度,加强了模型的鲁棒性。
其他文献
耕地是人类宝贵的自然资源,是农业生产的基础,对粮食安全、经济发展和社会稳定至关重要。以垦利县为例,分析了县域耕地资源的数量与质量变化趋势,并对未来耕地资源的供需状况
目的:通过学习古籍,结合临床,对"引火归原"进行探析。方法:总结明代以后古籍以及近现代医家观点,对"引火归原"进行分析,可分为阴虚阳亢、相火上越,阴寒里盛、逼阳外越两种类
史前遗址,是文化遗产体系的重要组成部分,承载着史前人类生产与生活等多方面的信息,是我们认识人类早期社会的物质载体,也是史前考古学研究的关键信息来源,因此史前遗址的价值不容小觑。但是史前遗址本身存在着可观赏性差、可读性差等不利特征,加之宣传教育不到位,使得公众长期以来对史前遗址,尤其是旧石器时代遗址不关注、不了解、没兴趣。史前遗址的保护与利用也一直是遗产领域的难题,有关其保护与活化的理论和案例研究相
詹姆逊是现今美国极具影响力的后现代文化理论家和马克思主义文艺理论家,他的理论兼具二者特色。在后现代社会的背景下,詹姆逊通过对后现代建筑进行空间分析,引出后现代空间
工伤保险作为我国社会保障体系的一个重要险种,在社会、经济发展等方面具有重要的作用和影响,并且愈来愈引起社会的广泛关注,特别是在当前中国经济高速发展,而职业伤害状况又
谢灵运是六朝时代一位有着多方面才能和素养的著名诗人,他的诗作具有“赏情适性”的审美追求。此种创作审美追求突破了“诗言志”的传统,强调了审美主体的心灵自由性,以及审美的
"大城市病"的普遍出现,使得"合理控制大城市发展规模,重点发展中小城市和小城镇"成为我国当前城镇建设的一个重要方向。本文以黑龙江省虎头镇规划实践为例,对传统农业型小城
<正>目的:研究胰岛素分泌高峰延迟的2型糖尿病患者应用预混人胰岛素后,在空腹及餐后2小时血糖基本达标时出现餐后低血糖的治疗方法,以寻求临床上适合有效的解决方案。方法:选
会议
通过调查并鉴定,初步探明了广西速生桉叶部真菌性病害10种,即隐盘孢叶斑病Cryptospori-opsis sp.,轮斑病Pilidiella eucalyptorum,P.diplodiella、花斑病Aureobasidium sp.、
在素质教育背景下的当今时代,对小学语文的作文教学提出了新的要求,我们需要通过创新作文教学形式来提升学生的写作兴趣,培养学生的自主写作意识,提高学生的写作能力,从而促进学生