本文讨论了非线性单调方程组和非光滑优化问题的非线性梯度法，以及求解矩阵l2,1范数极小化问题的非精确交替方向算法和加速逼近梯度法，建立这些算法的全局收敛性定理，并通过大量数值试验验证算法的有效性.　　本文分为六个章节.第一章主要介绍本文的研究背景，回顾国内外学者在此之前的研究进展和所取得的一些重要成果，同时介绍了本文所涉及的基本概念.　　在第二章，首先提出求解非线性单调方程组的一个修正的无导数非线性Liu-Storey共轭梯度投影算法.算法具有下列优点:(1)算法产生的搜索方向满足下降性质，这种性质不依赖所采用的线性搜索;(2)当采取精确线性搜索时，修正的Liu-Storey共轭梯度方向还原为标准的Liu-Storey共轭梯度方向.证明在较弱的条件下算法有好的表现而且全局收敛到非线性单调方程组问题的最优解.其次，基于Lipschitz常数结合投影技术提出Wei-Yao-Liu共轭梯度投影算法，该算法产生的搜索方向不依赖所采用的线性搜索而自动满足下降性质.Wei-Yao-Liu投影方法结构清晰，在非单调线性搜索下求解非线性单调方程组时全局收敛.大量数值试验表明所提算法的有效性.　　在第三章，结合投影算法，提出求解约束非线性单调方程组的无导数非线性Wei-Yao-Liu共轭梯度投影法.在较弱的条件下，证明该方法具有全局收敛性.数值结果表明该方法可与谱梯度投影方法相媲美.　　在第四章，首先，受启发于多元谱梯度方法在求解无约束优化和约束非线性单调方程组问题时良好的收敛性及数值结果，本文结合Moreau-Yosida正则化、邻近点算法和多元谱梯度算法，将非光滑凸目标函数f(x)进行Moreau-Yosida正则化，利用F(x)的梯度信息建立光滑子问题，给出一个求解无约束非光滑凸优化问题的多元谱梯度算法，在适当条件下证明了所给算法的全局收敛性.其次，对本文第二章的算法进行推广，结合Moreau-Yosida正则化、邻近点算法提出求解无约束非光滑凸优化问题的修正Liu-Storey共轭梯度算法和Wei-Yao-Liu共轭梯度算法，并证明所给算法在非单调线性搜索下求解无约束非光滑凸优化问题时全局收敛，数值结果表明该方法可与谱梯度方法和束方法相媲美.　　在第五章，研究矩阵l2,1范数极小化问题.结合梯度方法，提出非精确交替方向法求解矩阵l2,1范数极小化问题，给出子问题的精确解，分析该算法的收敛性.其次，提出新的加速近似梯度算法求解矩阵l2,1范数极小化问题，利用Hessian阵的特征值、谱系数和Lipschitz常数给出三种非精确的加速近似梯度算法，在适当条件下证明了所给算法的全局收敛性.大量随机和实际试验结果表明所提算法是有效的.　　最后，在第六章中对本文的研究进行了简要总结，并对以后的研究工作进行了展望.