随着科学技术日新月异的发展,尤其是以互联网技术为代表的网络时代的到来,各应用领域涉及的优化问题数据规模愈加庞大。梯度类算法作为求解优化问题的一类普适性算法,因其低复杂度的计算形式和较为完善的理论基础得到了广泛的应用。研究新型梯度类算法具有重要的理论价值和应用前景。一方面,数据时代应用发展中对高效优化算法的追求要求我们设计高效的梯度算法格式;另一方面,新型梯度算法投入到实际应用中会遇到理论保证上的挑战,需要我们不断挖掘新的数学概念、开发新的证明工具、提出新的证明方法。结合优化问题的结构特征设计、分析新型梯度类算法将极大丰富现有优化算法的理论研究内容,同时给各应用领域中出现的优化问题提供新的求解思路。本文针对几类具有特殊结构的优化问题,设计了几种新型梯度算法,围绕着算法格式、理论分析、实验论证等方面进行了系统的研究。以下是本文的主要工作和创新点:1、针对一类带和函数的凸优化问题,设计了惯性加速的临近增量累积梯度迭代格式。本文针对带和函数的优化问题,提出了一类惯性临近增量累积梯度算法。分析了算法生成的目标函数值和迭代点在梯度Lipschitz连续性和强凸性的假设条件下的线性收敛性;其次弱化了强凸性条件,并用另一种基于Lyapunov函数的证明方法证明了惯性临近增量累积梯度算法的线性收敛性。最后通过两个仿真实例验证了算法的加速效果。2、针对一类不满足梯度Lipschitz连续性的非凸非光滑优化问题,设计了外推Bregman临近梯度迭代格式。本文引入外推格式以加速Bregman临近梯度算法,用于求解非Lipschitz连续的非光滑非凸问题。首先在一般假设条件下证明了BPGe算法生成序列的极限点都是原问题的稳定点。其次,进一步引入Kurdyka-（?）ojasiewicz条件后,证明了BPGe算法生成的整个序列收敛到原问题的稳定点。最后通过泊松线性逆问题和二次逆问题的实验验证了外推格式带来的加速效果。3、针对一类带耦合项的非凸非光滑优化问题,设计了两种交替极小化迭代算法格式。本文针对带耦合项的非凸优化问题,提出了两类新型的交替迭代梯度算法。第一种是非凸临近交替极小化方法,通过引入一个新的辅助变量,将原问题分裂为两个相对简单的子问题,并对每一个子问题利用临近点方法交替求解。理论上分析了在满足Kurdyka-（?）ojasiewicz性质时,算法生成的整个序列收敛至原问题的稳定点。第二种是Bremgan原对偶算法,通过引入一个对偶辅助变量,将原问题转化为鞍点问题,然后引入Bregman距离取代常见原对偶算法中的二次距离,理论上分析了该算法的收敛性。最后,用l0极小化问题验证了非凸临近交替极小化方法的有效性;用泊松去噪问题验证了Bremgan原对偶算法的有效性。4、针对求解非光滑凸优化问题的临近梯度算法,补充了其关于临近梯度范数的精确最弱线性收敛率的估计结果,改进了线性收敛率的证明。临近梯度算法是一种十分经典的算法,收敛性证明的研究结果已经十分深入。本文首先在梯度Lipschitz连续性和强凸性的假设条件下,建立了新的关于临近梯度范数的精确最弱线性收敛率估计,补充了现有理论结果。其次,改进了现有的下降引理,基于新的引理,在Polyak-（?）ojasiewicz不等式条件下改进了非强凸条件下目标函数值的线性收敛率结果。