【摘 要】
：
复合凸优化是一类重要的优化问题,通常表示为光滑凸函数与非光滑凸函数的和。该模型常应用于人工智能和机器学习中,包括压缩感知,数据分类以及信号与图像处理等。由于复合凸优化问题的广泛应用,本文分别基于合理的一阶方法与二阶近似提出两种算法求解复合凸优化问题,并结合相应的数值实验验证了算法有效性。以下是本文的主要研究工作:首先基于多层优化思想和梯度镜面下降算法以及ε-次微分的思想,提出一个求解复合凸优化问题
论文部分内容阅读
复合凸优化是一类重要的优化问题,通常表示为光滑凸函数与非光滑凸函数的和。该模型常应用于人工智能和机器学习中,包括压缩感知,数据分类以及信号与图像处理等。由于复合凸优化问题的广泛应用,本文分别基于合理的一阶方法与二阶近似提出两种算法求解复合凸优化问题,并结合相应的数值实验验证了算法有效性。以下是本文的主要研究工作:首先基于多层优化思想和梯度镜面下降算法以及ε-次微分的思想,提出一个求解复合凸优化问题的非精确多层梯度镜面下降算法,该算法允许目标函数中光滑部分梯度计算和非光滑部分邻近算子计算都存在误差,讨论了该算法在适当条件下函数值误差序列的O（1/k2）收敛速度,这里k表示迭代次数。并给出该算法在Lasso问题,Logistic回归问题,图像去模糊中的应用。最后,基于邻近拟牛顿算法和多层优化思想,提出了求解复合凸优化问题的非精确多层邻近拟牛顿算法,并给出该算法在逻辑回归问题中的应用。数值结果表明,该算法是有效的。
其他文献
文本填充也叫缺失文本生成,主要任务是填充文本中缺失片段的信息,是自然语言处理一个研究领域。近几年,随着深度学习的快速发展,文本填充任务取得了一定的成果。但仍然存在一些问题,例如填充文本缺失部分信息与上下文语义信息不一致,使得填充后的文本连贯性和流畅性较差。填充文本缺失部分信息存在多样性和复杂性,以及考虑语法、句法和上下文语义信息等问题,使得填充任务变得更加艰巨。针对上述存在的一些问题,本文进行了基
文本填充作为文本生成领域中一个重要的研究课题,能够广泛应用于实际前景。通过缺失部分周围环境（上下文语境）来填充缺失的部分,生成能高度还原原文语义且语序连贯的文本,具有重要研究价值,适用于填充部分图像字幕、历史文档恢复、藏头诗生成、情报分析等许多自然语言生成方案。而目前对文本填充的研究还处于初始阶段,主要原因有采用传统的算法经常存在数据稀疏、语义特征向量表示不准确、缺少关键信息等问题,不能很好的完成
近年来,随着接入网的智能设备数量激增,庞大的数据流量给现有的通信系统带来了巨大的挑战。为了应对通信量激增带来的各种难题,边缘缓存技术成为研究热点。边缘缓存通过充分利用边缘节点的存储和计算资源,提前预测流行度较高的内容缓存到距离用户较近的边缘节点上,从而缓解核心网的压力。边缘缓存方案制定的过程中,缓存内容、缓存放置、缓存更新是边缘缓存需要解决的三大问题。本文主要针对基站之间的聚类、基于用户偏好的内容
随着电子系统的应用领域日渐广泛,电子电路的复杂性和集成度不断加深,对电路测试技术的要求也越来越高。模拟电路作为电子电路系统的重要组成部分,对其故障诊断技术的优化是提高电子电路测试技术的必要途径。然而,由于模拟电路元件的容差性和非线性,以及可测节点有限等特性,以往的故障诊断方法难以取得理想的测试结果,因此有必要探索更高效的测试诊断方法。本文基于神经网络技术,结合小波包分析方法,针对模拟电路中的软故障
随着信息技术的飞速增长,网络全球化给人们带来的好处也愈加丰富,大量的英文文本携带着众多重要信息出现在种类繁多的资源当中,这些海量文本信息数据具有深度挖掘的价值,对于社会发展有着非常重要的意义。为了使得信息能够更准确地被捕捉,文本挖掘技术应运而生,这其中聚类算法在过滤信息和整合文本等方面具有很好的应用前景。通过对这些网络信息数据进行合理适当地聚类,可以更好地抓住当前世界的发展动态,掌握最新的发展趋势
古诗词生成是自然语言处理中一种文本到文本的生成任务,它将输入的关键词或者表达用户意图的句子直接转化为古诗词。虽然目前国内外使用深度学习技术对古诗词生成问题进行了一定的研究,但生成的诗词忽略了风格的重要性,并且在上下文连贯性、通顺性方面仍存在提升空间。本文结合注意力机制和条件变分自编码器,对关键词生成古诗和宋词进行研究,主要的研究内容如下:一、提出一种基于门控注意力的关键词生成古诗方法。为了提高诗句
随着互联网上信息的爆炸式增长,如何高效的获取信息显得尤其重要。自动文本摘要技术可以对一篇或者多篇文档进行处理,从中概括出简短的关键信息,在很大程度上缓解了用户信息过载的问题。如今随着深度学习的发展,文本摘要技术取得了很大的突破和进展,但同时也存在一些问题。本文的主要工作如下:第一,现有的中文长文本摘要数据集规模有限,本文利用爬虫技术,从新浪网新闻中心获取新闻数据,经过清洗、过滤和选择等操作,再选取
在大数据时代,作为数据最重要的载体——数据库的安全性愈发受到政企单位的重视。数据库审计技术作为一种即时的高效的保障数据库安全技术,在当下的网络安全技术中扮演越来越重要的角色。伴随着可搜索加密技术和同态加密技术的出现,区块链技术被成功应用于各大场景。将可搜索加密技术、同态加密技术应用于数据库审计系统,可以有效降低审计密文数据的难度,提升审计密文数据的效率。因此基于可搜索加密、同态加密和区块链技术的密
约束矩阵方程的研究和现实生活中的实际应用密切相关,现代科学技术中的许多复杂问题都需要用到矩阵方程相关理论和方法去解决.如今,现代金融理论,自动控制理论,参数识别,信息论和振动理论等众多工程和科学领域的复杂问题都可以用求解约束矩阵方程的形式来解决.相关矩阵理论与方法的研究很大程度上促进了科学技术的发展,那么如何加快求解矩阵方程速度与提高解的精确度就是今后研究的重要内容.为了使求解约束矩阵方程的速度更
约束矩阵优化问题是数值代数和非线性优化领域中研究和探讨的重要课题之一.它在图像处理、模式识别、机器学习和复杂系统等科学领域中有着广泛的应用.本文系统研究了如下几类约束矩阵优化问题的理论与数值方法.第二章,研究了无监督特征选择中的矩阵优化问题（?）1/2‖A-AXY‖F2,s.t.X≥0,Y ≥0,XTX=Ip,其中X∈R+m×p,Y∈R+p×m分别表示权重矩阵和系数矩阵.首先利用松弛技术将该问题重